Comment une entreprise de trading déploie de nouveaux modèles d'IA le jour même - Noyan Tokgozoglu, Optiver

하이라이트

• Optiver réalise plus de 10 millions de transactions par jour, cote plus d'un million d'instruments et traite des pétaoctets de données au quotidien.

• L'impact sur le compte de résultat d'un déploiement se mesure en l'espace de quelques heures chez Optiver.

• Optiver héberge toute son infrastructure d'IA en interne sur ses propres GPU pour protéger sa propriété intellectuelle et se conformer aux réglementations strictes.

• L'introduction de recherches d'outils MCP et d'une passerelle d'inférence a permis de maîtriser l'explosion des dépenses en jetons lors des sorties de modèles.

• Chaque agent est limité à une tâche spécifique et versionné pour éviter la surcharge et la dette technique.

타임라인

1. 00:00 - 03:03

   Contexte opérationnel et impact financier immédiat

   L'entreprise ingère d'importants volumes de données et prend des décisions ultra-performantes pour plus de 10 millions de transactions quotidiennes. Contrairement aux entreprises technologiques traditionnelles dont les gains se mesurent sur des trimestres ou des années, l'activité de négoce réagit immédiatement aux nouveautés technologiques. Cette dynamique exige un goût prononcé pour l'action et une capacité à prendre des décisions rapides pour éviter des pertes d'opportunité majeures.

   • Optiver fonctionne en tant que teneur de marché sans clients et gère un volume massif de transactions.
   • Les modifications de l'infrastructure produisent un impact financier visible en quelques heures seulement.
   • Le coût d'une opportunité manquée est extrêmement élevé lors d'événements de marché majeurs.
2. 03:03 - 07:10

   Architecture de la plateforme d'IA interne

   Pour maintenir sa vitesse d'exécution, la plateforme repose sur des principes de libre-service encadrés par de solides valeurs par défaut. Les équipes techniques collaborent directement avec les traders pour comprendre leurs besoins et enseigner l'utilisation de l'IA. La pile technique intègre une passerelle d'inférence pour la résilience, une plateforme d'agents centralisée et des interfaces web dédiées comme l'atelier d'agents.

   • Une modularité rigoureuse permet d'intégrer de nouveaux paradigmes d'IA dès leur sortie.
   • L'ensemble de l'infrastructure d'IA fonctionne sur site avec des GPU internes pour garantir la sécurité de la propriété intellectuelle.
   • La passerelle d'inférence gère le routage entre les modèles tiers et les modèles open source auto-hébergés.
3. 07:10 - 15:51

   Évaluation des modèles et optimisation des coûts

   L'arrivée de modèles de pointe déclenche une évaluation immédiate via des benchmarks internes pour mesurer leur valeur réelle. Face à l'envolée des coûts en jetons causée par des contextes initiaux surchargés, des solutions telles que des interfaces optimisées et des alternatives open source ont été déployées. Cette visibilité accrue permet aux équipes d'ajuster leurs dépenses tout en maintenant un retour sur investissement élevé.

   • Les nouveaux modèles sont testés le jour même sur des jeux de référence internes.
   • L'optimisation des contextes et la mise en place d'une recherche d'outils MCP réduisent drastiquement la consommation excessive de jetons.
   • L'autonomie accordée aux équipes pour fixer leurs propres alertes et limites budgétaires canalise efficacement les dépenses.
4. 15:51 - 23:12

   Questions et perspectives d'évolution de l'ingénierie

   Les discussions techniques abordent la complexité de la gestion de la mémoire et des bases de connaissances à travers des approches hybrides. L'utilisation d'une infrastructure interne évite l'enfermement propriétaire et permet d'avancer plus rapidement que les solutions du marché. Enfin, pour faire évoluer les fonctionnalités sans créer de dette technique, l'accent est mis sur une architecture multi-agents où chaque entité conserve un rôle précis et mesurable.

   • L'enregistrement systématique de chaque appel d'outil alimente les systèmes d'évaluation automatique.
   • Les agents sont cantonnés à des tâches uniques et coordonnées via un registre central plutôt que d'être surchargés.
   • Le développement de solutions maison garantit l'indépendance vis-à-vis des feuilles de route des fournisseurs externes.