Um Banco Treinou o Seu Próprio Modelo de Fundação para Detectar Fraudes — Freddy Lecue, Wells Fargo

하이라이트

• O modelo fundamental de transações do Wells Fargo é pré-treinado do zero em blocos transformer usando milhares de milhões de transações mensais de clientes.

• A nova arquitetura supera o modelo XGBoost existente tanto na latência quanto na redução de falsos positivos e na taxa de deteção de fraudes.

• O processo tokeniza caraterísticas tabulares em bruto divididas em cinco dimensões principais: quem, o quê, como, quando e onde.

• A inferência para a deteção de fraudes ocorre em menos de 250 milissegundos, cumprindo os requisitos operacionais da instituição.

• A mesma espinha dorsal do modelo serve para múltiplas tarefas a jusante, incluindo deteção de fraudes, aumento de limite de crédito e prevenção de branqueamento de capitais.

타임라인

1. 00:00 - 05:41

   Motivação e Abordagem Geral

   As grandes organizações financeiras possuem enormes massas de dados transacionais dispersos por múltiplos canais e unidades de negócio. Em vez de aplicar modelos isolados para cada tarefa específica, a criação de um modelo fundamental centralizado aprende as representações das transações à escala. Este modelo baseia-se em arquiteturas transformer treinadas de raiz num cluster de GPUs durante semanas, com o objetivo de prever padrões e transações futuras antes de transitar para o ajuste fino em tarefas específicas.

   • Os serviços financeiros processam grandes volumes de dados tabulares estruturados além de dados não estruturados de linguagem.
   • A construção de um modelo fundamental de transações serve como uma espinha dorsal reutilizável para várias tarefas a jusante.
   • O pré-treinamento de raiz utiliza blocos transformer e milhares de milhões de transações de cartões de débito, crédito e cheques.
2. 05:41 - 13:25

   Arquitetura e Tokenização de Dados Tabulares

   A engenharia de caraterísticas tradicional exige um esforço manual extenuante, pelo que a abordagem foca-se nas caraterísticas em bruto para que os blocos transformer descubram as relações subjacentes. A tokenização transforma dados heterogéneos, como códigos postais, endereços IP e montantes de transações, em identificadores numéricos e vetores de embedding. O dimensionamento do modelo utiliza princípios baseados em leis de escala para otimizar o número de parâmetros e a quantidade de tokens necessários para a convergência.

   • Os dados reúnem-se em cinco dimensões principais que abrangem o cliente, o comerciante, o canal, o tempo e a localização.
   • O vocabulário único e heterogéneo dos serviços financeiros exige a conversão de valores numéricos, categóricos e geográficos em tokens e embeddings.
   • A arquitetura adota um design exclusivo de decodificador focado em transações à escala de milhares de milhões de parâmetros.
3. 13:25 - 17:26

   Resultados na Deteção de Fraudes e Expansão de Casos de Uso

   A principal vantagem competitiva reside na capacidade do transformador de cruzar a transação avaliada com todo o histórico passado do cliente, uma relação difícil de capturar em modelos tradicionais como o XGBoost. O sistema processa as decisões de recusa com uma latência muito inferior ao limite máximo exigido de 250 milissegundos. A redução de falsos positivos evita custos operacionais associados a chamadas de clientes e transações legítimas perdidas, consolidando a espinha dorsal como uma fundação transversal a toda a instituição financeira.

   • A aplicação do modelo à classificação de fraudes supera o desempenho do modelo XGBoost anterior em termos de exatidão e latência.
   • A atenção entre transações atuais e históricas eleva a taxa de deteção e reduz os falsos positivos, gerando poupanças milionárias.
   • A mesma fundação expande-se para novas aplicações como aumentos de limite de crédito e campanhas de marketing.