हमारे छोटे मॉडल ने फाइनेंस कार्यों में ओपस को हराया - अलेक्जेंडर शेवचेंको, रैंप
Original · Our Smaller Model Beat Opus on Finance Tasks - Alexander Shevchenko, Ramp
Key Takeaway
रैंप लैब्स ने विशेष मॉडल प्रशिक्षण, केवी कैश तकनीकों और 10,000 समानांतर एजेंटों के उपयोग से वित्तीय कार्यों में समय और लागत दोनों में भारी बचत की है।
Highlights
पिछले एक वर्ष में रैंप पर एलएलएम का उपयोग करने वाले उपयोग के मामलों की संख्या 123% बढ़ गई है।
फाइनेंस प्रश्नोत्तर मॉडल को प्रशिक्षित करने के बाद रैंप ने ओपस 4.6 की सटीकता को पीछे छोड़ दिया है।
रैंप ने पूरे रैंप की पेन टेस्टिंग के लिए 10,000 समानांतर एजेंटों का उपयोग किया है।
खुले वजन वाले मॉडल फ्रंटियर रीजनिंग की तुलना में पाँच गुना तक सस्ते हैं।
Timeline
रैंप में एआई अनुप्रयोग और विकास
रैंप में एप्लाइड एआई टीम विभिन्न सतहों पर एमएल और एलएलएम लागू कर रही है। हालांकि फ्रंटियर मॉडल अधिक सस्ते और तेज हो रहे हैं, फिर भी उपयोगकर्ताओं के लिए बेहतर अनुभव तैयार करने के लिए निरंतर शोध और प्रयास किए जा रहे हैं।
- पिछले एक साल में रैंप पर एलएलएम उपयोग के मामलों में 123% की वृद्धि हुई है।
- फ्रंटियर मॉडल के निरंतर रिलीज होने से यूनिट आर्थिक आधार पर टोकन खर्च सस्ता हो रहा है।
विशेषज्ञ मॉडल और पोस्ट-ट्रेनिंग
वित्तीय परिदृश्यों और डीसीएफ मॉडल बनाने के दौरान आने वाले घर्षण को दूर करने के लिए एक तेज और स्मार्ट मॉडल तैयार किया गया। इससे हाइकु स्तर की विलंबता के साथ ओपस 4.6 से ऊपर सटीक कार्य सटीकता प्राप्त हुई।
- रैंप शीट्स के वित्तीय प्रश्नों को हल करने के लिए एक पुनर्प्राप्ति मॉडल को प्रशिक्षित किया गया।
- प्राइम इंटेलेक्ट के साथ साझेदारी करके QAN 3.5 मॉडल को पोस्ट-ट्रेन किया गया।
केवी कैश तकनीकें और संदर्भ संपीड़न
वित्तीय पेशेवर के काम शुरू करने से पहले ही रात भर संदर्भ का निर्माण कर लिया जाता है। इससे एजेंट को महीने की पहली तारीख को यह पूरी तरह पता होता है कि उसे क्या कार्य करना है।
- कार्टतराज तकनीकों के माध्यम से 20 से 30 गुना अधिक संदर्भ को केवी कैश में संपीड़ित किया जाता है।
- महीने के अंत की रिपोर्ट और बहीखाता डेटा को पहले ही तैयार कर लिया जाता है।
एजेंटिक मैप रिड्यूस और स्वार्म्स
समानांतर एजेंटों के माध्यम से कमजोरियों का पता लगाया गया और एलएलएम की मदद से उनका पुनरुत्पादन करके सात सबसे गंभीर कमजोरियों को पैच किया गया। इससे बिना मानव समय खर्च किए सिस्टम को सुरक्षित बनाया गया।
- रैंप इंस्पेक्ट क्लाउड एजेंट का उपयोग करके 10,000 समानांतर एजेंटों से पेन टेस्टिंग की गई।
- खुले वजन वाले मॉडल का उपयोग करके लगभग उतनी ही अच्छी डिटेक्शन दर कम लागत पर प्राप्त की गई।
उत्पाद और भविष्य के शोध
शोध के परिणामों को रैंप के उत्पादों में एकीकृत किया गया है ताकि ग्राहकों का समय और पैसा बचाया जा सके। आगे के शोध में स्वचालित मॉनिटर और सिमेंटिक टैगिंग जैसे क्षेत्र शामिल हैं।
- रैंप टोकन खर्च प्रबंधन और रैंप राउटर जैसे उत्पादों के माध्यम से लागत और विलंबता को सुधारा जाता है।
- रैंप लैब्स ब्लॉग पर निरंतर सीखने और सिमेंटिक टैगिंग पर शोध प्रकाशित किए जाते हैं।
Description
Alexander Shevchenko of Ramp Labs explains why an application company still runs applied research instead of waiting for the next frontier model. He walks through three projects now in production: a post-trained Qwen 3.5 model that beat Opus 4.6 on financial question answering at Haiku-level latency, KV cache "cartridges" that pack 20 to 30 times more context into an agent ahead of time for tasks like month-end close, and swarms of 10,000 parallel agents that pen-tested Ramp and found seven high-severity vulnerabilities, with cheaper open-weight models catching nearly as much. Chapters: 0:00 Intro 0:36 A bitter-lesson company 1:15 Why not just wait? 1:29 Building agents in 2023 vs 2026 3:06 Project 1: A specialist model for Ramp Sheets 5:16 Beating Opus at Haiku speed 5:58 Project 2: KV cache cartridges 7:50 Project 3: 10,000 agents pen-testing Ramp 9:30 Cheaper open-weight models in swarms 10:08 Saving time and money 10:36 Token spend management and Ramp Router 12:03 More from the Ramp Labs blog Alexander Shevchenko https://ramp.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!