Cómo una empresa de trading despliega nuevos modelos de IA el mismo día - Noyan Tokgozoglu, Optiver

원제 · How a Trading Firm Ships New AI Models the Same Day - Noyan Tokgozoglu, Optiver

23:233분 읽기AI Engineer2026. 10. 27.컴퓨터/소프트웨어 · 주식 투자

핵심 요약

Optiver escala con éxito una plataforma de IA modular y de autoservicio que permite desplegar nuevos modelos de frontera el mismo día, equilibrando el rendimiento financiero y el control estricto de costos mediante enrutamiento y optimización de tokens.

하이라이트

  • Optiver procesa más de 10 millones de operaciones diarias, fija precios para más de un millón de instrumentos y maneja petabytes de datos con ciclos de retroalimentación financieros medibles en horas.

  • Todo el despliegue principal de modelos de IA se realiza localmente en la infraestructura interna de la empresa para preservar la propiedad intelectual y cumplir con regulaciones estrictas.

  • La introducción de herramientas de búsqueda MCP y la optimización de los contextos iniciales permitieron controlar un incremento masivo en los costos de tokens tras la adopción de modelos avanzados.

  • El uso de una pasarela de inferencia unificada permite enrutar dinámicamente entre distintos modelos de proveedores externos, optimizar presupuestos y garantizar resiliencia operativa.

타임라인

  1. Contexto operativo y financiero de la IA en Optiver

    El negocio de creador de mercado requiere tomar decisiones automatizadas de alto rendimiento basadas en datos masivos. El impacto de cualquier modificación técnica se refleja directamente en la cuenta de resultados al cierre del día, lo que exige una alta velocidad de respuesta y una fuerte inclinación hacia la acción.

    • Optiver opera como un creador de mercado global con más de 10 ubicaciones y maneja volúmenes masivos de operaciones diarias.
    • A diferencia de las empresas tecnológicas tradicionales con ciclos de métricas prolongados, el impacto financiero de un despliegue en Optiver se evalúa en cuestión de horas.
    • La empresa construye su propia plataforma de IA sobre principios de rapidez, modularidad y medición exhaustiva en cada capa.
  2. Arquitectura de la plataforma de IA y despliegue rápido

    La plataforma integra una pasarela de inferencia, un registro central de agentes y un entorno de desarrollo propio. Los ingenieros de IA trabajan de forma cercana con los traders para identificar necesidades, y cualquier nuevo modelo disponible se somete a pruebas comparativas internas para medir su valor real antes de adoptarlo en producción.

    • La infraestructura local y on-premise protege la propiedad intelectual y cumple con las normativas estrictas de la industria financiera.
    • Los nuevos modelos de frontera se evalúan de inmediato mediante un marco maduro y conjuntos de referencia internos (golden sets).
    • La pasarela de inferencia unifica proveedores externos y modelos de código abierto, asegurando resiliencia y control de presupuestos.
  3. Optimización de costos y gestión de tokens

    Para evitar el desperdicio de recursos provocado por un entorno totalmente autoservicio, la empresa implementó estrategias avanzadas de almacenamiento en caché y búsqueda eficiente de herramientas. Estas medidas redujeron el consumo excesivo de tokens y optimizaron el retorno de inversión global en IA.

    • El gasto en IA aumentó considerablemente con la llegada de los nuevos modelos de frontera durante el verano.
    • La asignación predeterminada de contextos masivos se redujo mediante el uso de interfaces de comandos que envuelven los protocolos MCP.
    • La visibilidad directa de los costos y la capacidad de autogestión permiten que los equipos establezcan sus propios límites y alertas de gasto.
  4. Interfaces de usuario y ecosistema multiagente

    Ante la fragmentación inicial de herramientas personalizadas por parte de los usuarios, la empresa construyó una solución centralizada y colaborativa. El sistema actual fomenta la interoperabilidad entre agentes y humanos, manteniendo flujos de trabajo modulares, mensurables y fáciles de gestionar en su ciclo de vida.

    • Se desarrolló un portal web interno y un banco de trabajo para unificar las sesiones y herramientas de los usuarios en la empresa.
    • Los traders y desarrolladores contribuyen activamente al código de la plataforma mediante solicitudes de extracción (PRs).
    • La arquitectura futura prioriza redes de agentes especializados y modulares en lugar de sobrecargar a un único agente con múltiples tareas.

설명

At Optiver, a change rolled out to traders shows up in P&L within hours, so AI has to move fast and still be measurable. Noyan Tokgozoglu, head of AI Engineering, walks through Optiver's on-prem AI platform: an inference gateway for routing and budgets, same-day adoption of new frontier models benchmarked on internal golden sets, a model- and harness-agnostic "meta harness", and how they got AI spend back under control after the summer's big model releases. Chapters: 0:00 Intro 0:22 What a market maker does 1:00 Feedback in hours, not quarters 2:53 Platform principles 5:11 The AI platform stack 7:06 Shipping frontier models the same day 8:31 Staying model and harness agnostic 9:53 Getting AI spend under control 13:54 Meeting users where they are 16:11 Q&A Noyan Tokgozoglu https://optiver.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!

이 영상에 대해 글쓰기