أخيراً، حلّت Anthropic مشكلة نافذة السياق بحجم 1 مليون توكن

하이라이트

• يبدأ تدهور أداء النماذج، المعروف بتعفن السياق، عند وصول النافذة إلى 300 ألف إلى 400 ألف رمز، وهو ما يعادل 40% من السعة الكلية البالغة مليون رمز.

• تؤدي عمليات الضغط التلقائي التي تقوم بها النماذج إلى فقدان تفاصيل حيوية، حيث تعتمد على افتراضات النموذج الخاصة بدلاً من توجيهات المستخدم المحددة.

• يؤدي استخدام الوكلاء الفرعيين إلى عزل مهام مثل البحث على الويب عن السياق الرئيسي، مما يقلل من تلوث نافذة السياق بالمعلومات الخام.

• يضمن استخدام تنسيق JSON منظم لالتقاط الحالة الراهنة للتطبيق دقة أعلى عند نقل السياق بين الجلسات مقارنة بالتلخيص النصي التقليدي.

• استبدال محاولات التصحيح المتكررة بعملية الترجيع يزيل المسارات غير الصحيحة ويحافظ على نظافة الحالة العملية للنموذج.

타임라인

1. 00:00 - 02:14

   ظاهرة تعفن السياق وأسباب فشل الوكلاء

   تُوهم نافذة السياق الكبيرة المستخدمين بالقدرة على إدخال كميات هائلة من البيانات، لكنها تفتح الباب لمشكلات مثل انجراف الهدف، فساد الذاكرة، وعدم دقة القرار. يظهر هذا التدهور كفقدان للتعليمات السابقة أو هلاوس معرفية نتيجة زيادة الحمل الإدراكي للنموذج.

   • يحدث تعفن السياق عندما تزدحم نافذة السياق بمعلومات متداخلة تشتت تركيز النموذج.
   • يبدأ الأداء في التراجع الفعلي عند استهلاك 40% فقط من نافذة المليون رمز.
2. 02:15 - 08:07

   إدارة السياق: الضغط والمسح

   يفضل التحكم في عملية الضغط يدويًا عند الوصول إلى نطاق 300-400 ألف رمز بدلاً من تركه للنموذج. يجب على المستخدم تزويد النموذج بتعليمات صريحة حول ما يجب الاحتفاظ به من قيود وقرارات، لأن الضغط التلقائي يعاني من تحيز الحداثة الذي يضحي بالمعلومات القديمة.

   • الضغط التلقائي غير موثوق لأنه يميل إلى حذف معلومات يراها النموذج ثانوية وهي ضرورية للمهمة.
   • يؤدي أمر المسح إلى البدء بجلسة فارغة، وهو الحل الأمثل عند الانتقال بين مهام غير مرتبطة.
3. 08:08 - 12:45

   استراتيجيات الحفاظ على دقة الأداء

   تعمل المنهجيات الهيكلية مثل JSON على جعل السياق المنقول أكثر صرامة وأقل عرضة للفقدان. كما أن الاعتماد على الترجيع عوضاً عن محاولات التصحيح المتكررة يضمن عمل الوكيل دائماً انطلاقاً من حالة نظيفة وصحيحة، مما يرفع من جودة القرارات النهائية.

   • استخدام هيكل JSON منظم لالتقاط حالة المهمة يضمن ثبات السياق عند الانتقال بين الجلسات.
   • يفصل الوكلاء الفرعيون المهام المستقلة عن السياق الرئيسي لتقليل التشويش.
   • يعتبر الترجيع ممارسة أساسية لإزالة الأجزاء التي أدت إلى خطأ بدلاً من الاستمرار في التصحيح للأمام.