Como uma empresa de trading lança novos modelos de IA no mesmo dia - Noyan Tokgozoglu, Optiver

Original · How a Trading Firm Ships New AI Models the Same Day - Noyan Tokgozoglu, Optiver

23:232 min readAI Engineer10/27/2026Computing/Software · Stocks

Key Takeaway

A Optiver escala sua plataforma interna de inteligência artificial com foco em descentralização, validação em tempo real e implantação no mesmo dia para maximizar o retorno financeiro imediato.

Highlights

  • A Optiver executa mais de 10 milhões de negociações diárias e precifica mais de um milhão de instrumentos financeiros com infraestrutura própria.

  • Novos modelos de inteligência artificial de fronteira são avaliados e integrados aos fluxos de produção no mesmo dia.

  • O uso excessivo de tokens gerava contextos mínimos de 200 mil tokens por sessão, exigindo a implementação de novas ferramentas de busca e otimização.

  • A empresa opera de forma totalmente local para proteger sua propriedade intelectual e cumprir exigências de indústrias altamente reguladas.

Timeline

  1. Contexto operacional e o impacto no lucro

    Diferente de empresas de tecnologia tradicionais que medem engajamento ao longo de meses, o balanço patrimonial da Optiver é zerado diariamente. A perda de oportunidades em eventos de mercado gera custos elevados, o que impulsiona a necessidade de uma execução veloz e orientada à ação.

    • A Optiver atua como formadora de mercado negociando com capital próprio e sem clientes externos.
    • As decisões de tecnologia e inteligência artificial geram impacto financeiro mensurável em poucas horas.
    • O ciclo de feedback imediato exige tomada de decisão rápida e tolerância mínima a oportunidades perdidas.
  2. Princípios e arquitetura da plataforma de IA

    Para lidar com a rápida evolução do ecossistema de inteligência artificial, a Optiver desenvolveu uma pilha tecnológica própria. A estrutura abrange desde modelos terceirizados até portais web internos, bancadas de trabalho e gateways de agentes para gerenciar identidades e comunicações.

    • A plataforma de inteligência artificial prioriza a modularidade para incorporar novos paradigmas tecnológicos com rapidez.
    • Equipes de engenharia realizam implantação avançada ao lado dos traders para alinhar ferramentas às necessidades operacionais.
    • A infraestrutura utiliza servidores locais e GPUs próprias, mantendo conexões externas estritas com acordos de zero retenção de dados.
  3. Avaliação de modelos e controle de custos

    O lançamento diário de modelos exige uma estrutura madura de avaliação para verificar o valor real de cada tecnologia. O aumento expressivo nos custos durante o verão exigiu otimizações no gerenciamento de parâmetros, uso de modelos de código aberto e maior visibilidade de gastos para as equipes.

    • Novos modelos passam por testes imediatos em benchmarks internos criados em parceria com equipes de trading.
    • Sessões iniciais consumiam mais de 200 mil tokens por excesso de contexto e prompts massivos.
    • A introdução de ferramentas de busca e melhorias no cache reduziu o desperdício e controlou os gastos com tokens.
  4. Interfaces de usuário e colaboração multiagente

    A alta iniciativa dos usuários levou ao desenvolvimento de um portal unificado para evitar soluções fragmentadas em máquinas de desenvolvimento. A arquitetura atual direciona o crescimento para ecossistemas multiagentes com escopos limitados, garantindo maior mensurabilidade e facilidade de ajuste.

    • Um portal web centralizado unifica sessões, janelas de chat e edição colaborativa de documentos.
    • A orquestração multiagente substitui agentes monolíticos por tarefas especializadas que comunicam entre si.
    • O registro completo de chamadas e ferramentas auxilia na auditoria e na avaliação contínua do sistema.

Description

At Optiver, a change rolled out to traders shows up in P&L within hours, so AI has to move fast and still be measurable. Noyan Tokgozoglu, head of AI Engineering, walks through Optiver's on-prem AI platform: an inference gateway for routing and budgets, same-day adoption of new frontier models benchmarked on internal golden sets, a model- and harness-agnostic "meta harness", and how they got AI spend back under control after the summer's big model releases. Chapters: 0:00 Intro 0:22 What a market maker does 1:00 Feedback in hours, not quarters 2:53 Platform principles 5:11 The AI platform stack 7:06 Shipping frontier models the same day 8:31 Staying model and harness agnostic 9:53 Getting AI spend under control 13:54 Meeting users where they are 16:11 Q&A Noyan Tokgozoglu https://optiver.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!

Write about this video