لا توافق على نموذج الذكاء الاصطناعي. وافق على التطبيق - دونيلي دي جيسوس، لانغفيوز
Original · Don't Approve the AI Model. Approve the App - Doneyli De Jesus, Langfuse
Key Takeaway
تتطلب حوكمة الذكاء الاصطناعي في القطاعات الخاضعة للتنظيم التركيز على اعتماد التطبيقات وبناء مجموعات بيانات ذهبية ومعايير قبول خاصة بدلاً من الاعتماد على المؤشرات العامة للنماذج.
Highlights
تعتمد المؤسسات الخاضعة للتنظيم تقييم التطبيقات العملية بدلاً من الاكتفاء بالمؤشرات القياسية العامة للنماذج.
ارتفعت دقة النماذج في المهام العددية من 60% إلى 95% بعد تزويدها بأداة خارجية لحساب الأرقام.
تتطلب الصناعات المالية نشر الحلول محلياً ومعزلولة تماماً عن الإنترنت لضمان أمان البيانات الحساسة.
تعتمد بوابات الجودة على معايير متعددة الأبعاد تشمل الترسيخ، والدقة، والامتثال التنظيمي.
أدى إدخال إطار العمل والتقييم الآلي إلى تقليص مدة تقييم التطبيقات في مجالات المخاطر والامتثال من أشهر إلى دقائق معدودة.
Timeline
أولوية اعتماد التطبيقات مقابل المؤشرات العامة
تتجلى الحاجة الحقيقية لدى البنوك في ضمان قدرة التطبيقات المنشأة على الانتقال الفعلي إلى بيئة الإنتاج. يتطلب بناء محلل للتقارير المالية إدخال معرفة عميقة وسياق مؤسسي لا يتوفران ضمن التدريب الأساسي للنماذج اللغوية، مما يجعل التركيز منصباً على جودة التطبيق وتجاوز بوابات الجودة الخاصة بالمؤسسة.
- لا تهتم القطاعات الخاضعة للتنظيم بالمؤشرات القياسية العامة للنماذج الجديدة.
- تتطلب البنوك تقييم أداء التطبيقات الفعلية مثل محلل التقارير المالية وليس قدرات النموذج المجردة.
- تفتقر النماذج الجاهزة إلى معرفة السياق الداخلي والخصوصية المرتبطة بالبيانات المصرفية.
متطلبات البنية التحتية ومعمارية النشر
تتطلب حساسية البيانات المصرفية إعادة توظيف مراكز البيانات المحلية وتوفير بنية تحتية لوحدات معالجة الرسومات لتشغيل النماذج محلياً. يضمن العزل التام عن الإنترنت (Air-gapped) عدم خروج المعلومات أو استخدامها في التدريب الخارجي، بينما يهدف إطار العمل المعتمد إلى منح موافقة حاسمة (نجاح أو رسوب) عند أي تغيير في إعدادات الوكيل أو موجه النظام.
- تشترط المؤسسات المالية بقاء الحلول على أجهزتها وبنيتها التحتية الخاصة.
- يجب أن تكون النماذج مقيدة ومعزولة تماماً عن الإنترنت لمنع أي تسريب للبيانات.
- تتطلب التطبيقات إثبات التوافق مع متطلبات الامتثال التنظيمي وضمان تفادي تذمر المستخدمين.
منهجية الاختبار وبناء مجموعة البيانات الذهبية
تعتمد المنهجية التقنية على إنشاء مجموعة بيانات ذهبية تحتوي على مدخلات ومخرجات متوقعة لمقارنة سلوك الوكيل بها. تظهر الاختبارات الفعلية تفوق النماذج في استخراج معلومات موثوقة من المصادر الداخلية، بينما تواجه إخفاقات واضحة في الجانب العددي والرياضي نظراً لكون النماذج اللغوية أدوات لتنبؤ الرموز وليست حواسيب.
- تبدأ عملية الاختبار بتشكيل مجموعة بيانات ذهبية تمثل حالات الاختبار الأساسية.
- تولد عمليات التتبع الدليل الموثق لتقييم أداء النموذج مقابل مجموعة البيانات المحددة.
- تسجل النماذج نسب ترسيخ عالية تصل إلى 97% بينما تفشل في تقديم أرقام دقيقة بسبب ضعفها الرياضي.
تحسين الأداء عبر الأدوات والتقييم متعدد الأبعاد
يتم سد النقص العددي للنماذج عبر تزويد الوكيل بأداة بايثون خارجية لمعالجة العمليات الحسابية بدقة ثابتة. يعتمد التقييم الشامل على مزيج من الأكواد الحتمية وفحص مسار اتخاذ القرار للوكيل، مما يضمن استيفاء العتبات المحددة قبل السماح بترقية أي تكوين جديد إلى بيئة الإنتاج.
- يرفع دمج أداة حتمية للرياضيات دقة النموذج من 60% إلى أكثر من 95%.
- يُقيم التطبيق عبر أبعاد متعددة تشمل الدقة، والمسار المتبع، والامتثال التنظيمي.
- يجمع نظام التسجيل بين التقييمات الحتمية بالرمز والتقييمات باستخدام نماذج لغوية كحكام.
حلقة التغذية الراجعة وتدخل خبراء المجال
تتطلب الطبيعة الحرجة للمخاطر إشراك خبراء المجال ومسؤولي المخاطر لتحديد معايير القبول وعتبات النجاح لكل حالة استخدام. تتيح مراجعة إخفاقات الوكيل تغذية مجموعة البيانات الذهبية بمدخلات أدق، مما يحول عملية التقييم والاعتماد إلى دورة تكرارية سريعة وموثوقة.
- يؤدي انتهاك متطلبات الامتثال التنظيمي إلى رسوب فوري للتطبيق لمنع المخاطر.
- تنسق قائمة انتظار التعليقات حالات الفشل ليراجعها خبراء المجال البشريون.
- تتقلص مدة تقييم التطبيقات والتوافق التنظيمي من أشهر وأسابيع إلى دقائق تكرارية.
Description
Doneyli De Jesus, who leads AI engineering solutions at Langfuse by ClickHouse, shares how his team helped a top-five bank put deployment gates on AI agents. Banks don't certify models, they certify applications, and they need setups that are on-premises, gated and air-gapped. He walks through building a golden data set, scoring traces across several dimensions, and how a small model that was 97% grounded but only 60% accurate on numbers cleared the bank's 85% gate once it got a calculator tool. Domain experts set the thresholds and review failures, taking evaluation from weeks to minutes. Chapters: 0:00 Intro 0:41 Banks don't care about public benchmarks 3:01 Certify applications, not models 3:18 On-prem, gated and air-gapped 5:00 Proving an app is ready 6:00 Golden data sets and traces 7:20 Grounded, but bad at math 8:52 Gating the whole workflow 10:34 Building the data set 11:32 Scoring: code, path and LLM judge 13:48 Setting gates with domain experts 15:53 Annotation queues and feedback 17:31 From weeks to minutes Doneyli De Jesus https://langfuse.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!