Como uma empresa de trading lança novos modelos de IA no mesmo dia - Noyan Tokgozoglu, Optiver
원제 · How a Trading Firm Ships New AI Models the Same Day - Noyan Tokgozoglu, Optiver
핵심 요약
A Optiver escala sua plataforma interna de inteligência artificial com foco em descentralização, validação em tempo real e implantação no mesmo dia para maximizar o retorno financeiro imediato.
하이라이트
A Optiver executa mais de 10 milhões de negociações diárias e precifica mais de um milhão de instrumentos financeiros com infraestrutura própria.
Novos modelos de inteligência artificial de fronteira são avaliados e integrados aos fluxos de produção no mesmo dia.
O uso excessivo de tokens gerava contextos mínimos de 200 mil tokens por sessão, exigindo a implementação de novas ferramentas de busca e otimização.
A empresa opera de forma totalmente local para proteger sua propriedade intelectual e cumprir exigências de indústrias altamente reguladas.
타임라인
Contexto operacional e o impacto no lucro
Diferente de empresas de tecnologia tradicionais que medem engajamento ao longo de meses, o balanço patrimonial da Optiver é zerado diariamente. A perda de oportunidades em eventos de mercado gera custos elevados, o que impulsiona a necessidade de uma execução veloz e orientada à ação.
- A Optiver atua como formadora de mercado negociando com capital próprio e sem clientes externos.
- As decisões de tecnologia e inteligência artificial geram impacto financeiro mensurável em poucas horas.
- O ciclo de feedback imediato exige tomada de decisão rápida e tolerância mínima a oportunidades perdidas.
Princípios e arquitetura da plataforma de IA
Para lidar com a rápida evolução do ecossistema de inteligência artificial, a Optiver desenvolveu uma pilha tecnológica própria. A estrutura abrange desde modelos terceirizados até portais web internos, bancadas de trabalho e gateways de agentes para gerenciar identidades e comunicações.
- A plataforma de inteligência artificial prioriza a modularidade para incorporar novos paradigmas tecnológicos com rapidez.
- Equipes de engenharia realizam implantação avançada ao lado dos traders para alinhar ferramentas às necessidades operacionais.
- A infraestrutura utiliza servidores locais e GPUs próprias, mantendo conexões externas estritas com acordos de zero retenção de dados.
Avaliação de modelos e controle de custos
O lançamento diário de modelos exige uma estrutura madura de avaliação para verificar o valor real de cada tecnologia. O aumento expressivo nos custos durante o verão exigiu otimizações no gerenciamento de parâmetros, uso de modelos de código aberto e maior visibilidade de gastos para as equipes.
- Novos modelos passam por testes imediatos em benchmarks internos criados em parceria com equipes de trading.
- Sessões iniciais consumiam mais de 200 mil tokens por excesso de contexto e prompts massivos.
- A introdução de ferramentas de busca e melhorias no cache reduziu o desperdício e controlou os gastos com tokens.
Interfaces de usuário e colaboração multiagente
A alta iniciativa dos usuários levou ao desenvolvimento de um portal unificado para evitar soluções fragmentadas em máquinas de desenvolvimento. A arquitetura atual direciona o crescimento para ecossistemas multiagentes com escopos limitados, garantindo maior mensurabilidade e facilidade de ajuste.
- Um portal web centralizado unifica sessões, janelas de chat e edição colaborativa de documentos.
- A orquestração multiagente substitui agentes monolíticos por tarefas especializadas que comunicam entre si.
- O registro completo de chamadas e ferramentas auxilia na auditoria e na avaliação contínua do sistema.
설명
At Optiver, a change rolled out to traders shows up in P&L within hours, so AI has to move fast and still be measurable. Noyan Tokgozoglu, head of AI Engineering, walks through Optiver's on-prem AI platform: an inference gateway for routing and budgets, same-day adoption of new frontier models benchmarked on internal golden sets, a model- and harness-agnostic "meta harness", and how they got AI spend back under control after the summer's big model releases. Chapters: 0:00 Intro 0:22 What a market maker does 1:00 Feedback in hours, not quarters 2:53 Platform principles 5:11 The AI platform stack 7:06 Shipping frontier models the same day 8:31 Staying model and harness agnostic 9:53 Getting AI spend under control 13:54 Meeting users where they are 16:11 Q&A Noyan Tokgozoglu https://optiver.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!
