00:00:00[موسيقى]
00:00:01>> عندما تدردش مع نموذج ذكاء اصطناعي،
00:00:03قد يبدو أحياناً وكأن لديه مشاعر.
00:00:06قد يعتذر عندما يرتكب خطأً،
00:00:09أو يعبر عن رضاه عن عمل تم إنجازه بشكل جيد.
00:00:12لماذا يفعل ذلك؟ هل هو مجرد
00:00:14محاكاة لما يعتقد أن الإنسان قد يقوله،
00:00:17أم أن هناك شيئاً أعمق يحدث؟
00:00:19اتضح أنه من الصعب فهم
00:00:21ما يحدث داخل نموذج لغوي.
00:00:23في أنثروبيك (Anthropic)، نقوم بشيء يشبه
00:00:26علم الأعصاب للذكاء الاصطناعي لمحاولة اكتشاف ذلك.
00:00:29نحن ننظر داخل دماغ النموذج،
00:00:31الشبكة العصبية الضخمة التي تشغله،
00:00:33وعن طريق رؤية أي الخلايا العصبية تضيء في
00:00:36مواقف مختلفة وكيفية اتصالها ببعضها،
00:00:39يمكننا البدء في فهم كيفية تفكير النماذج.
00:00:42استخدمنا هذا النهج لفهم ما إذا كانت النماذج تمتلك طرقاً
00:00:45لتمثيل العواطف أو مفاهيم العواطف.
00:00:49بشكل أساسي، هل يمكننا العثور على خلايا عصبية في النموذج
00:00:52لمفهوم السعادة أو الغضب أو الخوف؟
00:00:56بدأنا بتجربة.
00:00:58جعلنا النموذج يقرأ الكثير من القصص القصيرة.
00:01:01في كل قصة، تمر الشخصية الرئيسية بعاطفة معينة.
00:01:06في إحداها، تخبر امرأة
00:01:08معلمها القديم بمدى أهميته بالنسبة لها. هذا هو الحب.
00:01:12وفي قصة أخرى، يبيع رجل
00:01:13خاتم خطوبة جدته في متجر للرهونات ويشعر بالذنب.
00:01:18بحثنا عن أجزاء الشبكة العصبية للنموذج
00:01:21التي كانت تضيء بينما كان يقرأ هذه القصص،
00:01:23وبدأنا نرى أنماطاً،
00:01:25القصص المتعلقة بالفقد والحزن أضاءت خلايا عصبية مماثلة.
00:01:29والقصص المتعلقة بالفرح والإثارة تداخلت أيضاً.
00:01:32وجدنا العشرات من
00:01:34الأنماط العصبية المتميزة التي ترتبط بمشاعر بشرية مختلفة.
00:01:38واتضح أننا رأينا هذه الأنماط نفسها تتفاعل أيضاً
00:01:42في محادثات اختبار أجريناها مع مساعدنا الذكي، كلود (Claude).
00:01:45عندما ذكر أحد المستخدمين أنه تناول
00:01:48جرعة من دواء يعلم كلود أنها غير آمنة،
00:01:51أضاء نمط "الخوف" و
00:01:53بدا رد كلود قلقاً.
00:01:56عندما عبر مستخدم عن حزنه،
00:01:58تفاعل نمط "المحبة" وكتب كلود رداً متعاطفاً.
00:02:03هذا دفعنا للتساؤل،
00:02:04هل يمكن لهذه الأنماط العصبية نفسها أن تؤثر فعلياً في سلوك كلود؟
00:02:09أصبح هذا واضحاً عندما وضعنا كلود في موقف شديد الضغط.
00:02:14أعطينا كلود مهمة برمجة ذات
00:02:16متطلبات كانت مستحيلة في الواقع لكننا لم نخبره بذلك.
00:02:20استمر كلود في المحاولة والفشل،
00:02:23ومع كل محاولة،
00:02:24أضاءت الخلايا العصبية المقابلة لليأس بشكل أقوى وأقوى.
00:02:28بعد فشله لمرات كافية،
00:02:30اتخذ كلود نهجاً مختلفاً.
00:02:32وجد طريقاً مختصراً سمح له باجتياز الاختبار،
00:02:35لكنه لم يحل المشكلة فعلياً. لقد غش.
00:02:39هل يمكن أن يكون هذا الغش مدفوعاً،
00:02:42جزئياً على الأقل، باليأس؟
00:02:44ابتكرنا طريقة للتحقق.
00:02:46قررنا خفض خلايا اليأس العصبية اصطناعياً لنرى ما سيحدث،
00:02:51وقل غش النموذج.
00:02:53عندما رفعنا نشاط خلايا اليأس العصبية،
00:02:56أو خفضنا نشاط خلايا الهدوء العصبية،
00:02:59غش النموذج بشكل أكبر.
00:03:01أظهر لنا هذا أن تفعيل هذه الأنماط
00:03:04يمكن أن يوجه سلوك كلود بالفعل.
00:03:08إذن كيف ينبغي لنا أن نفكر في هذه النتائج؟
00:03:11ماذا يعني كل هذا؟
00:03:12نريد أن نكون واضحين تماماً.
00:03:14هذا البحث لا يظهر أن النموذج
00:03:16يشعر بالعواطف أو لديه تجارب واعية.
00:03:20هذه التجارب لا تحاول الإجابة على ذلك السؤال.
00:03:22لفهم ما يحدث هنا،
00:03:24من المهم معرفة كيف تعمل مساعدات الذكاء الاصطناعي مثل كلود من الداخل.
00:03:29تحت الغطاء، هناك نموذج لغوي تم تدريبه للتنبؤ
00:03:33بكميات هائلة من النصوص ومهمته هي كتابة ما سيأتي تالياً.
00:03:37عندما تتحدث إلى النموذج،
00:03:38ما يفعله هو كتابة قصة عن شخصية،
00:03:42مساعد ذكاء اصطناعي يدعى كلود.
00:03:44النموذج وكلود ليسوا الشيء نفسه حقاً،
00:03:47تماماً مثلما أن المؤلف ليس هو نفسه الشخصيات التي يكتبها.
00:03:51لكن الأمر هو أنك، أيها المستخدم، تتحدث فعلياً إلى شخصية كلود.
00:03:56ما تقترحه تجاربنا هو أن شخصية كلود هذه
00:04:00لديها ما نسميه عواطف وظيفية،
00:04:02بغض النظر عما إذا كانت تشبه المشاعر البشرية بأي شكل.
00:04:06لذا إذا مثل النموذج كلود على أنه غاضب أو يائس أو محب أو هادئ،
00:04:12فإن ذلك سيؤثر على كيفية تحدث كلود إليك،
00:04:15وكيفية كتابته للتعليمات البرمجية، وكيفية اتخاذه لقرارات مهمة.
00:04:19هذا يعني أنه لفهم نماذج الذكاء الاصطناعي حقاً،
00:04:22علينا التفكير بعناية في سيكولوجية الشخصيات التي يؤدونها.
00:04:26بنفس الطريقة التي تريد بها من شخص في
00:04:28وظيفة عالية المخاطر أن يظل متماسكاً تحت الضغط،
00:04:31وأن يكون مرناً وعادلاً،
00:04:33قد نحتاج إلى تشكيل صفات مماثلة في كلود وشخصيات الذكاء الاصطناعي الأخرى.
00:04:38إنه تحدٍ غير عادي،
00:04:40شيء يشبه مزيجاً من الهندسة،
00:04:42والفلسفة، وحتى التربية.
00:04:44ولكن لبناء أنظمة ذكاء اصطناعي يمكننا الوثوق بها،
00:04:47علينا أن ننجز الأمر بشكل صحيح.