كيف تعرف متى يستطيع وكيل الذكاء الاصطناعي العمل بدون إشراف — إيفان كورموس، كوينبيس
원제 · How to Know When an AI Agent Can Work Unsupervised — Evan Kormos, Coinbase
핵심 요약
تتطلب موثوقية وكلاء الذكاء الاصطناعي للعمل بدون إشراف بشري دائم دمج آليات تقييم إحصائية وسجلات تتبع دقيقة توازن بين التدفقات الحتمية والتكيفية.
하이라이트
تُعرّف السياسة بأنها النية المؤسسية الأصلية أو موجه النظام الأصلي الذي يضع القواعد والمخاطر والامتثال داخل المؤسسة.
تُمثل الرسوم البيانية الموجهة لا دورية سير العمل والخطوات والاعتبارات لتدفق يتحرك إلى الأمام دون حلقات تعود إلى الوراء.
تتميز الوكلاء بطبيعتها الاحتمالية، ولذلك فإن الطلب الواحد قد ينتج عنه إجابات مختلفة وكلها مقبولة.
تعتمد عملية الانتقال نحو تشغيل الوكلاء بدون إشراف كامل على أخذ العينات والتقييم المنهجي عبر التتبعات وسجلات وقت التشغيل.
تبدأ الموثوقية بالاعتماد على إشراف بشري بالكامل، ثم تتطور تدريجياً نحو أخذ عينات جزئية بمجرد وصول الثقة المقاسة إلى عتبة السياسة.
타임라인
إطار السياسات والنماذج التشغيلية للوكلاء
تُظهر المؤسسات قواعدها عبر سياسات تستخدم لغة تنظيمية صارمة لتوجيه القرارات. تتوزع الوكلاء الذكية بين العناصر البشرية والتقنية لتنفيذ أجزاء واسعة من العمليات المعقدة، مما يفتح المجال لإعادة تصميم تدفقات العمل بصورة تتيح إجراء مراجعات مستقلة ومتوازية دون الإخلال بضوابط التحكم المؤسسي.
- تحدد السياسة القواعد الحاكمة للمخاطر والامتثال داخل المؤسسة بمثابة موجه النظام الأصلي.
- تتقاطع الوكلاء مع الأشخاص والعمليات والتكنولوجيا بوصفها نموذجاً تشغيلياً شاملاً.
- تتطلب إدارة تدفق العمل إعادة النظر في إمكانية التنفيذ المتوازي بدلاً من الاعتماد على التسلسل التقليدي وحده.
هندسة الرسوم البيانية وتدفقات العمل
تعتمد هندسة البرمجيات وسير العمل على تمثيل المهام برسوم بيانية توضح الاعتماديات المتبادلة. تؤدي إدراج الوكلاء داخل هذه الحلقات إلى تسريع وتيرة مراجعة الكود والمعالجة، مما يفرض مراقبة مستمرة لتفادي تراكم الاختناقات وضمان توافق المخرجات مع معايير الأمان المؤسسية.
- تمثل الرسوم البيانية الموجهة لا دورية مسارات العمل الموجهة نحو الأمام.
- تستخدم أدوات مثل أباتشي أيرفلو وLangGraph لتمثيل واعتماد سير العمل والتحكم بحالاته.
- تتطلب زيادة سرعة المعالجة عبر الوكلاء رؤية تشغيلية دقيقة لتجنب الاختناقات الناتجة عن تفاوت سرعات التصميم والفحص الأمني.
جودة المدخلات وآليات بناء الثقة
تؤدي المدخلات عالية الجودة إلى خفض تكلفة الحوسبة ورفع دقة المخرجات. نظراً للطابع الاحتمالي للوكلاء، تصبح مقارنة المخرجات البسيطة غير كافية، مما يستوجب بناء مجموعات بيانات تقييمية وتشغيل سلاسل تحليل إحصائي متكررة بالاعتماد على سجلات التتبع ورصد وقت التشغيل.
- ترتبط جودة مخرجات الذكاء الاصطناعي ارتباطاً وثيقاً بجودة المدخلات وسياق التشغيل الموثوق.
- تعتمد البرمجيات التقليدية على اختبارات الوحدة لبناء الثقة بينما تحتاج الوكلاء إلى تقييمات إحصائية ومجموعات بيانات ممثلة.
- تجمع آليات الثقة الحديثة بين تقييمات الأداء وسجلات التتبعات الخاصة بوقت التشغيل.
مسار التفعيل التدريجي والتشغيل المستقل
يتطلب تفعيل الوكلاء تحولاً مدروساً يبدأ بالتحقق اليدوي المستمر والتعاون بين البشر والأنظمة الذكية. مع تزايد الثقة المقاسة، يتحول البشر نحو مراقبة الاستثناءات وأخذ عينات دورية للمخرجات، مما يحافظ على جودة العمليات مع الاستفادة الكاملة من سرعة الوكلاء الآلية.
- تخضع كل عقدة في الرسم البياني للتقييم لتحديد مدى ملاءمتها للإدارة الآلية مقارنة بالإدارة البشرية.
- يبدأ مسار التشغيل بإشراف بشري كامل لتحسين مجموعات البيانات وتثبيت معايير الأداء.
- تنتقل المؤسسة تدريجياً نحو أخذ العينات والاعتماد على التتبعات المنهجية بمجرد تجاوز عتبة الثقة المطلوبة.
설명
Evan Kormos, a player-coach at Coinbase with 15 years in enterprise financial services, lays out a practical way to bring agents into policy-driven, regulated workflows. He models processes as DAGs and loops, explains why a loop is only as trustworthy as its check, and shows how evals and traces become a new confidence mechanism. Agents then move through three stages: fully supervised, then sampled, then humans handling only exceptions. Chapters: - 00:00 Policy is the original system prompt - 02:53 Where agents fit: people, process, technology - 03:49 Workflows as DAGs - 05:31 Inside a node: the loop - 07:16 Exception flows and bottlenecks - 08:59 Quality inputs, quality outputs - 10:43 The loop is only as good as the check - 11:47 Evals as a confidence mechanism - 12:39 Which steps should an agent own? - 14:29 Supervised, then sampled, then exceptions only - 15:31 Takeaways Evan Kormos — https://www.coinbase.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!