كيف تقوم شركة تداول بنشر نماذج ذكاء اصطناعي جديدة في نفس اليوم - نويان توكغوزوغلو، أوب蒂فەر
원제 · How a Trading Firm Ships New AI Models the Same Day - Noyan Tokgozoglu, Optiver
핵심 요약
تبني شركة أوبتيفير منصة ذكاء اصطناعي داخلية ومستقلة عن مزودي الطرف الثالث لتحقيق نشر فوري للنماذج الجديدة في نفس اليوم مع ربط الأداء المباشر بالأرباح والخسائر.
하이라이트
تتعامل شركة أوبتيفير مع أكثر من 10 ملايين صفقة يومياً وتقوم بتسعير أكثر من مليون أداة مالية مع معالجة بيتابايتس من البيانات.
تتيح البنية التحتية الداخلية للشركة نشر نماذج الذكاء الاصطناعي الجديدة في تدفقات الإنتاج خلال نفس يوم إصدارها.
يتم تسجيل كل تفاعل واستدعاء للأداة عبر نظام OTEL ونقله تلقائياً إلى نظام التقييم الخاص بالشركة.
أدت مراجعة استخدام بروتوكولات السياق (MCP) والحد من استهلاك الرموز الافتراضي إلى خفض التكاليف وضبط الإنفاق بفعالية.
타임라인
بيئة العمل وطبيعة التداول في أوبتيفير
تختلف شركات التداول عن الشركات التقنية التقليدية التي تقيس الإيرادات على مدار أشهر أو سنوات. في أوبتيفير، تبدأ حلقة التغذية الراجعة فورياً، مما فرض ضرورة بناء منصة ذكاء اصطناعي تتحرك بسرعة عالية وتدعم الابتكار المرن لتجنب التكلفة العالية لفوات الفرص.
- تعمل الشركة كصانع سوق بدون عملاء وتعتمد على أموالها الخاصة.
- تظهر تأثيرات القرارات على الأرباح والخسائر في غضون ساعات قليلة نظراً لتصفير الميزانية العمومية يومياً.
- تتطلب ديناميكيات التداول سرعة عالية في اتخاذ القرار لتجنب خسارة الفرص المهمة في السوق.
هندسة منصة الذكاء الاصطناعي ومبادئ تصميمها
تتطلب الأكواد والبيانات الحساسة في قطاع التداول تشغيل النماذج محلياً عبر وحدات معالجة رسومية خاصة بالشركة. تتألف المنصة من طبقات متعددة تشمل نماذج الطرف الثالث والنماذج المحلية وبوابة استدلال تتيح توجيه الطلبات وتخصيص الميزانيات ومنع تعطل النظام.
- تعتمد المنصة على مبادئ التحرك السريع، والخدمة الذاتية بالكامل، والقياس في كل طبقة.
- تُجرى جميع العمليات الحساسة محلياً (On-prem) لحماية الملكية الفكرية والالتزام باللوائح التنظيمية.
- تتضمن البنية التحتية بوابة استدلال ومنصة وكلاء مركزية لتنسيق العمل وتوفير واجهات مستخدم مخصصة.
النشر في نفس اليوم وإدارة التكاليف والرموز
تستفيد الشركة من أي نموذج رائد جديد في نفس اليوم عبر إطارات عمل تقييم ناضجة ومناوبات دعم عالمية على مدار الساعة. بعد ارتفاع تكاليف الينفاق نتيجة الاستخدام المفرط للسياق، طورت الشركة أدوات بحث متقدمة وظفتها لتقليل استهلاك الرموز مع الحفاظ على عائد استثمار مرتفع.
- تُختبر النماذج الجديدة فور إصدارها باستخدام مجموعات اختبار معيارية بالتعاون مع فرق التداول.
- أدى التحكم في استهلاك سياق بروتوكولات (MCP) وتحسين إعدادات التخزين المؤقت إلى تقفض تكاليف الرموز.
- يساهم المتداولون بكتابة الكود وإرسال طلبات السحب لتطوير واجهة الويب ومنصة عمل الوكلاء.
النقاشات والأبجاث المفتوحة حول الذاكرة والتقييم
تتناول الأسئلة والأجوبة تحديات التقييم المرتبطة بالتقاط حالات العالم للوكلاء، وأسباب تفضيل البناء المحلي لتجنب القيود المفروضة من مزودي الخدمات الخارجيين. كما تناقش الجلسة كيفية توسيع نطاق الوكلاء عبر توزيع المهام على وحدات متخصصة تتواصل فيما بينها عبر منصة مركزية.
- تسجل الشركة كافة تفاعلات الأدوات عبر تسجيلات OTEL لغذائها في أنظمة التقييم.
- تفضل أوبتيفير تطوير حلولها محلياً بدلاً من الاعتماد على أدوات خارجية لتجنب القيود واحتكار المزودين.
- تتم إدارة الوكلاء الجدد عبر نطاقات مخصصة وتنسيق مشترك عبر بوابة الوكلاء المركزية لتجنب إثقال وكيل واحد.
설명
At Optiver, a change rolled out to traders shows up in P&L within hours, so AI has to move fast and still be measurable. Noyan Tokgozoglu, head of AI Engineering, walks through Optiver's on-prem AI platform: an inference gateway for routing and budgets, same-day adoption of new frontier models benchmarked on internal golden sets, a model- and harness-agnostic "meta harness", and how they got AI spend back under control after the summer's big model releases. Chapters: 0:00 Intro 0:22 What a market maker does 1:00 Feedback in hours, not quarters 2:53 Platform principles 5:11 The AI platform stack 7:06 Shipping frontier models the same day 8:31 Staying model and harness agnostic 9:53 Getting AI spend under control 13:54 Meeting users where they are 16:11 Q&A Noyan Tokgozoglu https://optiver.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!