نموذجنا الأصغر يتفوق على أوبوس في المهام المالية - ألكسندر شيفتشكو، رامب
Original · Our Smaller Model Beat Opus on Finance Tasks - Alexander Shevchenko, Ramp
Key Takeaway
تطبق شركة رامب الأبحاث المتقدمة لتطوير نماذج متخصصة وتقنيات سياقية تسهم في تقليل زمن الاستجابة وتكلفة الرموز.
Highlights
ارتفع عدد حالات الاستخدام التي تعتمد على نماذج اللغات الكبيرة بنسبة 123% على مدار العام الماضي في شركة رامب.
أدى التدريب اللاحق لنموذج QAN 3.5 بحجم 35 مليار معامل إلى تحقيق دقة تفوق نموذج أوبوس 4.6 مع تقديم زمن استجابة يضاهي نماذج هايِكو.
تتيح تقنيات خراطيش ذاكرة التخزين المؤقت للمفتاح والقيمة ضغط سياق إضافي يتراوح بين 20 إلى 30 ضعفاً للاستخدام دون اتصال بالإنترنت.
أدى استخدام 10,000 وكيل متزامن لاختبار الحماية إلى اكتشاف وإصلاح سبع ثغرات أمنية شديدة الخطورة.
استخدام نماذج ذات أوزان مفتوحة أرخص بخمس مرات في أسراب الوكلاء يحافظ على معدل اكتشاف مقارب لنماذج الاستدلال الرائدة.
Timeline
مقدمة عن دور الذكاء الاصطناعي في رامب
تؤمن شركة رامب بدرس المرارة وتستفيد من التطور المستمر لنماذج اللغات الكبيرة. يتم توفير نفس مستوى الدقة بتكلفة أقل بفضل إطلاق نماذج أرخص وأسرع طوال الوقت.
- انضم أليكس كابلان إلى فريق الذكاء الاصطناعي التطبيقي في رامب قبل نحو ثلاث سنوات.
- ارتفع عدد حالات الاستخدام التي تعتمد على نماذج اللغات الكبيرة بنسبة 123% خلال العام الماضي.
- تنخفض تكلفة الاقتصاد لكل وحدة مع إطلاق نماذج أكثر سرعة وجودة وتطوراً باستمرار.
تطور بناء وكلاء الذكاء الاصطناعي بين 2023 و2026
تطلب العمل في عام 2023 تقليص نطاق السياق وعدم إعطاء سياق كبير للوكيل لئلا يترتب على ذلك ارتباكه. أما في عام 2026، فقد تحسنت النماذج بشكل كبير لتتيح تزويدها بخوادم سياق مدلل وفهم أفضل لمهامها.
- كان بناء وكيل ذكاء اصطناعي في عام 2023 يتطلب ضوابط صارمة وجهداً مضنياً في صياغة الأوامر النصية.
- تفتقر النماذج القديمة إلى رموز التفكير والتعلم التعزيزي للتراجع عند اتخاذ اتجاه خاطئ.
- أصبح بناء الوكلاء في عام 2026 أسهل بكثير بفضل خوادم السياق المدلل وإمكانيات الفهم المتقدمة.
تطبيقات مختبرات رامب وثلاث حالات عملية
تم العمل على معالجة بطء النماذج الكبيرة وتكلفة رموز التفكير العالية من خلال تدريب نموذج استرجاع مخصص. كما تتيح تقنيات الخراطيش إعداد السياق مسبقاً طوال الليل قبل بدء المهام المالية المعقدة.
- أطلق جداول بيانات رامب في شهر نوفمبر كواحد من أوائل وكلاء جداول البيانات.
- تم تدريب نموذج الاسترجاع QAN 3.5 بالشراكة مع برايم إنتلكت لتحقيق دقة تفوق أوبوس 4.6.
- تساعد تقنيات خراطيش ذاكرة التخزين المؤقت للمفتاح والقيمة في ضغط السياق بنسبة تتراوح بين 20 إلى 30 ضعفاً.
الإنتاج الموجه بالوكلاء ومنتجات رامب
أسفر استخدام أسراب الوكلاء عن اكتشاف حقن نصوص برمجية معقدة عبر البريد الإلكتروني. كما توفر منتجات الشركة إدارة دقيقة لإنفاق الرموز وفئات المحاسبة لتحسين الكفاءة التشغيلية والمالية.
- أدى استخدام 10,000 وكيل متزامن في اختبار الحماية إلى اكتشاف سبع ثغرات أمنية شديدة الخطورة وإصلاحها.
- يساعد منتج إدارة إنفاق الرموز وموجه رامب في تحسين زمن الاستجابة وتكلفة الرموز المنفقة.
- تنشر مدونة مختبرات رامب أبحاثاً متقدمة تشمل نقل النتائج التعليمية والمراقبة ذاتية التحسين.
Description
Alexander Shevchenko of Ramp Labs explains why an application company still runs applied research instead of waiting for the next frontier model. He walks through three projects now in production: a post-trained Qwen 3.5 model that beat Opus 4.6 on financial question answering at Haiku-level latency, KV cache "cartridges" that pack 20 to 30 times more context into an agent ahead of time for tasks like month-end close, and swarms of 10,000 parallel agents that pen-tested Ramp and found seven high-severity vulnerabilities, with cheaper open-weight models catching nearly as much. Chapters: 0:00 Intro 0:36 A bitter-lesson company 1:15 Why not just wait? 1:29 Building agents in 2023 vs 2026 3:06 Project 1: A specialist model for Ramp Sheets 5:16 Beating Opus at Haiku speed 5:58 Project 2: KV cache cartridges 7:50 Project 3: 10,000 agents pen-testing Ramp 9:30 Cheaper open-weight models in swarms 10:08 Saving time and money 10:36 Token spend management and Ramp Router 12:03 More from the Ramp Labs blog Alexander Shevchenko https://ramp.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!