300 وكيل و60 شخصاً: كيف أمّنّا وكلاء الذكاء الاصطناعي الخاص بنا - أيدن سوچوفسكي، Runlayer
원제 · 300 Agents, 60 People: How We Secured Our Own AI Agents - Aiden Sochowski, Runlayer
핵심 요약
تتطلب إدارة أكثر من 300 وكيل ذكاء اصطناعي في شركة صغيرة مراقبة مركزية واستخدام نماذج تصنيف مخصصة لاكتشاف الانحرافات الأمنية والسيطرة على التكاليف المتصاعدة.
하이라이트
تعمل شركة RunLayer التي يبلغ عدد موظفيها بين 50 و60 شخصاً بأكثر من 300 وكيل ذكاء اصطناعي يومياً.
تؤدي سوء كتابة خوادم بروتوكول سياق النموذج (MCP) إلى أخطاء متكررة وتضخم كبير في تكاليف الرموز المميزة.
أدى التغيير المفاجئ لإعدادات النماذج إلى قفزات في التكاليف تجاوزت 100 ضعف خلال أسبوع واحد.
يتطلب تأمين الوكلاء نشر بوابة مركزية لمراقبة كل جلسة وكل استدعاء لأداة على حدة.
타임라인
تحديات مراقبة وتأمين وكلاء الذكاء الاصطناعي داخلياً
تواجه الشركات صعوبة في تتبع وكلاء الذكاء الاصطناعي وخوادم بروتوكول سياق النموذج التي تعمل على حواسيب المستخدمين دون إشراف. للتعامل مع هذه المشكلة داخلياً، قامت الشركة بنشر بوابة مركزية تسجل كل جلسة عمل واستدعاء للأدوات بهدف توفير رؤية شاملة لسطح الهجوم والمخاطر المحتملة المرتبطة بتسريب البيانات.
- تفتقر معظم الشركات إلى رؤية واضحة عن الوكلاء والعملاء الذين يتم تشغيلهم على أجهزة غير مُدارة.
- تنشر الشركة بوابة مركزية لتسجيل كل جلسة واستدعاء لأداة لمراقبة السلوكيات.
- يوجد في شركة تضم 50 أو 60 موظفاً أكثر من 300 وكيل يعملون يومياً عبر التطبيقات المختلفة.
مخاطر الهجمات وتحديد السياسات السياقية للوكلاء
تتسبب رسائل البريد الإلكتروني الخبيثة أو التفاعلات الموجهة في دفع الوكلاء ذوي الصلاحيات الواسعة إلى تسريب بيانات حساسة مثل قوائم العملاء أو معلومات التعرف الشخصية. نظرًا لصعوبة وضع قواعد حظر ثابتة لكل سيناريو، طورت الشركة نماذج تصنيف داخلية تفحص سجل الجلسات واستدعاءات الأدوات لاكتشاف الانحرافات عن النطاق المحدد للوكيل.
- تستغل البرمجيات الخبيثة الوكلاء مفرطي الصلاحيات لتسريب البيانات الحساسة مثل معلومات العملاء.
- تصعب كتابة قواعد ثابتة لحظر أدوات معينة نظراً لأن الأمان يعتمد بشكل كامل على سياق الاستخدام.
- دربت الشركة نماذج تصنيف خاصة لتحليل جلسات الوكلاء والتحقق من مطابقة كل استدعاء أداة للمهمة الأصلية.
السيطرة على التكاليف وإدارة جودة خوادم سياق النماذج
تؤدي البرمجة الضعيفة لخوادم بروتوكول سياق النموذج بواسطة فرق العمل غير المتخصصة إلى مواجهة أخطاء تنسيق متكررة ترفع تكاليف الإدخال والإخراج بشكل ملحوظ. كما أن التغيير العشوائي لنماذج الذكاء الاصطناعي يرفع التكاليف بصورة هائلة، مما يحتم وضع ميزانيات صارمة وأدوات مراقبة دقيقة لتقييم الحاجة الفعلية للذكاء الإضافي.
- تتسبب الأخطاء المتكررة في خوادم بروتوكول سياق النموذج غير المتقنة في هدر كبير في الرموز المميزة.
- أدى تغيير إعدادات النماذج إلى زيادة التكاليف بأكثر من 100 ضعف خلال أسبوع واحد في بعض حالات الشركات.
- تعد مراقبة أخطاء التعليمات البرمجية وفرض ميزانيات واضحة أداة أساسية للسيطرة على نفقات الذكاء الاصطناعي.
설명
Runlayer is a company of about 60 people running 300+ agents every day. Founding engineer Aiden Sochowski shares what they found once they put a gateway in front of everything and logged every session and tool call: prompt injection through email, PR-review agents getting talked into approvals, over-permissioned bots, one poisoned agent contaminating others, buggy vibe-coded MCP servers burning tokens, and a model switch that raised costs over 100x in a week. Chapters: 0:00 Intro 0:25 Zero visibility into company agents 1:22 300 agents for 60 people 3:38 Example: data exfiltration through email 6:16 Attacks that unfold over a whole session 8:50 Using session data to scope agents down 10:56 One poisoned agent affects them all 12:47 Beyond security: broken MCP servers 14:08 Cost blowups from model switches 15:36 Wrap-up Aiden Sochowski https://runlayer.com Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!