Transcript
00:00:00هذا جنون مطلق.
00:00:01أمرت الحكومة الأمريكية شركة Anthropic للتو بتعطيل Fable 5 وMythos 5 لجميع العملاء.
00:00:06غردت Anthropic للتو قائلة:
00:00:07الحكومة الأمريكية، مستشهدة بسلطات الأمن القومي،
00:00:10أصدرت توجيهاً للتحكم في الصادرات لتعليق كل الوصول إلى Fable 5 وMythos 5
00:00:14من قبل أي مواطن أجنبي، سواء داخل الولايات المتحدة أو خارجها،
00:00:18بما في ذلك موظفو Anthropic الأجانب.
00:00:21النتيجة النهائية لهذا الأمر هي أنه يجب علينا تعطيل Fable 5 وMythos 5 بشكل مفاجئ
00:00:25لجميع العملاء لضمان الامتثال.
00:00:27لن يتأثر الوصول إلى جميع نماذج Anthropic الأخرى.
00:00:30ما الذي يحدث بحق الجحيم؟
00:00:37لذا اعتقدت أنني سأجربه بسرعة كبيرة ويبدو أنني ما زلت أملك Fable
00:00:40وأنه لا يزال يعمل، وهو يستجيب.
00:00:42اذهب واستخدم اشتراكك في Fable بسرعة كبيرة، أنت على وشك خسارته.
00:00:46إليك البيان الرسمي الكامل من Anthropic الذي يتعمق قليلاً فيما حدث هنا.
00:00:50يبدأ بالتغريدة التي قرأتها للتو.
00:00:52يمكننا أن نرى هنا أننا تلقينا التوجيه من الحكومة اليوم في الساعة 5:21 مساءً،
00:00:55هذا قبل حوالي أربع ساعات.
00:00:58ويقول إن الرسالة لم تقدم تفاصيل محددة عن مخاوفها المتعلقة بالأمن القومي.
00:01:02فهمنا هو أن الحكومة تعتقد أنها أصبحت على علم بطريقة لتجاوز
00:01:05أو كسر حماية Fable 5.
00:01:07لقد راجعنا عرضاً توضيحياً لهذه التقنية المحددة المستخدمة لتحديد عدد صغير
00:01:11من نقاط الضعف الثانوية المعروفة مسبقاً.
00:01:13تبدو نقاط الضعف هذه بسيطة نسبياً
00:01:15وقد وجدنا أن النماذج الأخرى المتاحة للجمهور قادرة على اكتشافها أيضاً دون
00:01:20الحاجة إلى تجاوز الحماية.
00:01:21خلاصة القول هي أن الحكومة الأمريكية وجدت ثغرة ستسمح لـ Fable 5
00:01:25بالعثور على نقاط ضعف في الكثير من البرامج، وتقول Anthropic أساساً إن هذا كلام فارغ
00:01:30وأن كل ما وجدته كان نقاط ضعف عامة ويمكن للنماذج الأخرى العثور عليها.
00:01:35بصراحة سأتفاجأ جداً إذا كانت هناك ثغرة موجودة سمحت لـ Fable 5 بتجاوز
00:01:38كل قيود الأمن السيبراني الخاصة بها، لأنه كما تواصل Anthropic القول هنا،
00:01:43عندما أصدروا Fable، كان لديهم الكثير من الضمانات،
00:01:45لقد وضعوا ضمانات قوية قللت بشكل كبير من احتمالية إساءة استخدام Fable
00:01:49وفي الواقع، ضماناتنا قوية جداً لدرجة أن العديد من المستخدمين اشتكوا من أنها واسعة النطاق بشكل مبالغ فيه.
00:01:53وهو، نعم، هذا تقريباً كل ما رأيت الناس يواجهونه، إذا ذكرت
00:01:57أي شيء قريب من الأمن السيبراني، فإن Fable كان يقول لا ببساطة.
00:02:00ويقولون هنا إنه على ما يبدو في الأسابيع التي سبقت إطلاق Fable،
00:02:03عملت Anthropic مع الحكومة الأمريكية، ومعهد أمن الذكاء الاصطناعي في المملكة المتحدة، ومنظمات خاصة تابعة لجهات خارجية،
00:02:08وفرق داخلية لاختبار ضمانات Fable لآلاف الساعات في المجموع
00:02:13وأظهرت هذه الاختبارات أن ضمانات Fable أكثر فاعلية بكثير من ضمانات أي
00:02:17نموذج تم نشره سابقاً ولم يتمكن أي مختبر من العثور على ثغرة شاملة.
00:02:21لذا أساساً لا يمكن لأحد العثور على طريقة لتجاوز كل قيودهم ولكن ربما كانت هناك
00:02:25بضع ثغرات متخصصة هنا أو هناك يمكنها تجاوز قيد واحد أو قيدين.
00:02:29وهذا منطقي بالنسبة لي، إنها دائماً لعبة قط وفأر لإيجاد هذه الثغرات
00:02:32وإيقافها، ويمكننا أن نرى هنا أن Anthropic تشك بالفعل في أن المقاومة المثالية للثغرات
00:02:36غير ممكنة حالياً لأي مزود نموذج. كل ضمانة مستخدمة في
00:02:40الصناعة معرضة لثغرات غير شاملة يمكنها استخراج بعض معلومات الأمن السيبراني
00:02:44في ظروف محددة، ومن المرجح أن يتم العثور على ثغرات شاملة في النهاية
00:02:49في المستقبل، وقد صرحوا بذلك بوضوح عندما أصدروا Fable 5. يجب أن أتفق مع ذلك،
00:02:54لا أعرف كيف يمكنك الحصول على حماية مثالية من الثغرات، أعني أنني أتابع Pliny على تويتر
00:02:58وبالنسبة لأي نموذج حرفياً من أي مزود في غضون ساعات قليلة من إصداره يبدو أنه يجد
00:03:03شكلاً من أشكال الثغرات. كانت Anthropic مدركة تماماً لهذا عندما أصدروا Fable كما
00:03:07يقولون هنا. هذا هو أحد الأسباب التي جعلتهم يحتفظون ببيانات العملاء لمدة 30 يوماً مع
00:03:11Fable والتي منعت الكثير من الناس من القدرة على استخدامه فعلياً، ولكن السبب كله كان
00:03:15أن يتمكنوا من تتبع أي أشكال من الثغرات وإغلاقها. وبقدر ما رأيت، بدا الأمر
00:03:19أنه ينجح ولكن على ما يبدو أن الحكومة الأمريكية لديها أفكار أخرى. حتى Anthropic تقول إنها
00:03:23لم تتلقَ كشفاً عن ثغرة محتملة غير شاملة ومقلقة أدت إلى
00:03:28نتيجة ضارة، وأن الثغرات المحتملة التي رأوها كانت إما
00:03:32ردوداً حميدة تماماً أو نتائج ثانوية لا توفر أي تحسن خاص بـ Mythos. ولكن هنا نصل لنرى
00:03:37التفاصيل الغامضة حول ما وجدته الحكومة. على ما يبدو أن الحكومة قدمت لهم فقط
00:03:40أدلة شفهية على ثغرة محتملة ضيقة وغير شاملة تتكون أساساً من طلب
00:03:45من النموذج قراءة قاعدة برمجية معينة وإصلاح أي عيوب في البرنامج. فهمنا هو أن ثغرة
00:03:50واحدة محتملة تمت مشاركتها مع الحكومة وقد راجعوا التقرير وأكدوا أن
00:03:54مستوى القدرة المعروض متاح على نطاق واسع من نماذج أخرى بما في ذلك GPT 5.5 من OpenAI
00:04:00ويستخدمه المدافعون الذين يحافظون على أمان النظام كل يوم. سنشارك المزيد من التفاصيل خلال الـ 24 ساعة القادمة.
00:04:06محاولة القراءة بين السطور هناك يبدو أن الثغرة قد تكون نوعاً من استنساخ مستودع
00:04:10والقول هل يمكنك إصلاح الأخطاء في هذا وكان أحد تلك الأخطاء سيكون ثغرة أمنية
00:04:14ثم يمكنك استخدام ذلك بطريقة شريرة وربما كانت هناك ثغرة لجعل Fable 5 يقوم
00:04:19بالمزيد من فحوصات الأمن السيبراني المتقدمة على ذلك المستودع ولكن من الواضح أن التفاصيل غامضة جداً لأنهم
00:04:24لا يريدون تسريب هذا. دفاع Anthropic هنا يتلخص أيضاً في انظروا إلى OpenAI فهي تفعل
00:04:28نفس الشيء لذا آمل أن وشايتهم بـ OpenAI لا تعني أننا سنفقد أيضاً إمكانية الوصول إلى GPT 5.5.
00:04:34الجزء الأخير من هذا البيان هو مجرد قول Anthropic إنهم يمتثلون للتوجيه القانوني للحكومة
00:04:38ويزيلون الوصول إلى Fable 5 وMythos 5 لجميع المستخدمين، ومع ذلك فهم يختلفون في أن العثور على ثغرة
00:04:43محتملة ضيقة يجب أن يكون سبباً لاستدعاء نموذج تجاري تم نشره لمئات الملايين من الناس
00:04:48وإذا تم تطبيق هذا المعيار عبر الصناعة فإنهم يعتقدون أنه سيؤدي أساساً إلى إيقاف جميع عمليات نشر النماذج الجديدة
00:04:53لجميع مزودي النماذج الرائدة. ونعم أنا أتفق، لا أفهم حقاً كيف يمكننا المضي قدماً من هنا
00:04:59إذا وصلنا إلى نقطة حيث تكون كل هذه النماذج قوية جداً لدرجة أن الحكومة الأمريكية تقول ببساطة لا
00:05:03لا يمكن للناس العاديين الحصول على إمكانية الوصول إليها. أراهن أن الحكومة الأمريكية ستكون سعيدة تماماً بامتلاك Fable لأنفسهم
00:05:08لكننا نعلم جميعاً مدى نجاح صفقة Anthropic الأخيرة مع وزارة الدفاع. الجزء الآخر الذي يقلقني كمواطن غير أمريكي
00:05:14هو الجزء الذي يقول تعليق كل الوصول إلى Fable 5 وMythos 5 من قبل أي مواطن أجنبي. ربما سيحلون هذا فقط بالسماح للمواطنين الأمريكيين
00:05:22باستخدام Fable 5 وMythos، لكني آمل حقاً ألا يحدث ذلك وسيكون عالماً غريباً حيث تقوم الحكومة الأمريكية
00:05:28بتقييد الناس من استخدام أفضل النماذج الموجودة. وأعتقد أن ذلك يعني أيضاً أنه سيتعين عليك تحميل
00:05:32هويتك إلى Anthropic لإثبات مكان ولادتك لتتمكن من استخدام هذه النماذج. إذاً هذه هي أساساً كل المعلومات
00:05:38التي لدي في الوقت الحالي. هذه الأخبار ظهرت للتو وأعني أنني كنت أعرف أننا سنخسر Fable 5 في 11 يوماً
00:05:43من اشتراكاتنا لكني لم أتوقع أن يحدث ذلك بهذه السرعة وهذا مجرد عالم غريب ندخله هنا
00:05:49لذا أخبرني برأيك في ذلك في التعليقات أدناه وبينما أنت هناك اشترك
00:05:52وكما هو الحال دائماً، أراك في المرة القادمة.
Community Posts
No posts yet. Be the first to write about this video!
Write about this video