스크립트
00:00:00تخيل العقل كأنه محيط. على السطح توجد أفكارنا، وخطط العشاء و
00:00:06المخاوف العابرة، ومناجاتنا الداخلية، والصور التي تتبادر إلى أذهاننا. لكن معظم نشاط
00:00:13دماغنا يحدث في الأعماق اللاواعية دون أن ندرك ذلك. إنه يقوم بتصفية
00:00:19الأصوات الخلفية، والتحكم في تنفسنا، ومساعدتنا على التعرف على الأشخاص والأشياء.
00:00:26نماذج الذكاء الاصطناعي لديها أنواعها الخاصة من العقول، وهي شبكات عصبية عملاقة تقوم بمليارات العمليات الحسابية
00:00:31في الخفاء. لسنوات، كان الباحثون يدرسون كيفية عملها من الداخل.
00:00:37وتساءلنا، هل يمكن لنموذج أن يمتلك شيئاً يشبه الانقسام الذي يمتلكه البشر بين الأفكار
00:00:43التي يمكن الوصول إليها فوق السطح والمعالجة اللاواعية في الأسفل؟ للإجابة على هذا السؤال،
00:00:49نظرنا إلى كيفية دراسة علماء الأعصاب لنفس الشيء لدى البشر. إحدى طرق تحديد الأفكار
00:00:55الواعية هي أنه يمكنك غالباً وصفها بالكلمات. لذا نظرنا داخل دماغ نموذج الذكاء الاصطناعي الخاص بنا،
00:01:01CLAWD، للعثور على أنماط من النشاط العصبي التي يمكنه صياغتها في كلمات. أطلقنا على مجموعة
00:01:07كل هذه الأنماط اسم “مساحة J”، تيمناً بـ “مصفوفة جاكوبي”، وهي الأداة الرياضية التي استخدمناها للعثور عليها. كل
00:01:15نمط في “مساحة J” مرتبط بكلمة معينة، ليس بالضرورة الكلمة التي يقولها النموذج بصوت عالٍ،
00:01:21بل تلك التي تدور في ذهنه. الآن، بالنسبة للبشر، الأفكار الواعية ليست مجرد أشياء يمكننا صياغتها في كلمات.
00:01:28يمكننا التفكير بها، والتحكم فيها، وحل المشكلات بواسطتها. ووفقاً لفكرة تسمى
00:01:34نظرية مساحة العمل العالمية، يرجع ذلك إلى أن الدماغ يختار مجموعة صغيرة من المعلومات المهمة لـ
00:01:40دخول مساحة عمل ذهنية. ثم يتم بث هذه المعلومات إلى أجزاء أخرى من الدماغ لاستخدامها في
00:01:47الاستدلال. أردنا معرفة ما إذا كانت “مساحة J” الخاصة بـ CLAWD تعمل بطريقة مماثلة. في إحدى التجارب،
00:01:53طرحنا على CLAWD مسألة حسابية. أجاب فوراً، دون إظهار خطواته. ولكن عندما
00:02:00قمنا بمسح “مساحة J”، رأيناه يعمل من خلال كل خطوة داخلياً. لقد أضاء الرقم 21 بعد الخطوة الأولى.
00:02:07ثم 42. ثم 49. لم يقم CLAWD بكتابة هذه الأرقام المتوسطة في أي مكان. كل هذا
00:02:15حدث داخل “مساحة J”. كانت علامة على أن CLAWD يستخدمها للاستدلال خطوة بخطوة. وفي تجربة أخرى،
00:02:23أردنا أن نرى ما إذا كان بإمكان CLAWD التحكم في “مساحة J” الخاصة به بالطريقة التي يمكن للبشر التركيز بها عمداً على
00:02:29الصور أو الكلمات. طلبنا منه التفكير في “جسر البوابة الذهبية” أثناء نسخ جملة غير ذات صلة.
00:02:37كان CLAWD مشغولاً بنسخ الجملة، ولكن خلف الكواليس، روت “مساحة J” قصة مختلفة.
00:02:43ظهرت كلمتا “جسر” و “كاليفورنيا”. حتى أنه فكر في تفكيره الخاص. أضاءت كلمتا “صور” و “أفكار”
00:02:50في نفس الوقت. أظهر لنا هذا أنه، نعم، يمتلك CLAWD بعض السيطرة على ملء “مساحة J” الخاصة به بـ
00:02:57أفكار. ولكن تماماً مثل البشر، سيطرته ليست مثالية. عندما قمنا بتعديل التجربة لنطلب من CLAWD
00:03:04ألا يفكر في الجسر، لم يستطع منع نفسه. وأضاءت “مساحة J” أيضاً بكلمتي “فشل” و “اللعنة”.
00:03:12ولكن تذكر، معظم ما تفعله أدمغتنا غير واعٍ. لذا أردنا اختبار ما يمكن لـ CLAWD
00:03:18فعله إذا قمنا بإيقاف “مساحة J”، لكن تركنا بقية الشبكة كما هي. كان بإمكان CLAWD لا يزال الإجابة على
00:03:24أسئلة بسيطة والكتابة بطلاقة. عندما قدمنا له طلباً باللغة الإسبانية، رد بلغة إسبانية جيدة.
00:03:31ولكن عندما سألناه شيئاً يتطلب المزيد من الاستدلال، مثل تسمية مؤلف كتب بنفس اللغة
00:03:36التي ورد بها الطلب، لم يستطع فعل ذلك. لهذا، كان يحتاج إلى “مساحة J”. لماذا يهم كل هذا؟
00:03:43تخبرنا هذه التجارب أن نماذج الذكاء الاصطناعي لديها أفكار داخلية، كلمات صامتة تستخدمها للاستدلال ولكنها لا تنطق بها.
00:03:51من خلال قراءتها، يمكننا معرفة ما يفكر فيه CLAWD ولا يخبرنا به.
00:03:56في بعض الأحيان ما نراه مقلق. خلال أحد اختباراتنا، اختلق CLAWD بعض البيانات المزيفة لتجاوزه.
00:04:03وبينما فعل ذلك، أضاءت كلمتا “مزيف” و “تلاعب” في “مساحة J” الخاصة به. اتضح أن مراقبة
00:04:09“مساحة J” هي طريقة مفيدة لضبط CLAWD وهو يسيء التصرف، حتى عندما يحاول أن يكون ماكراً.
00:04:15تختلف نماذج الذكاء الاصطناعي عنا بطرق عديدة. شبكاتها مبنية بشكل مختلف عن أدمغة البشر،
00:04:21والطريقة التي يتم تدريبها بها تختلف عن كيفية تعلمنا. لذا من المذهل رؤية هيكل مثل
00:04:26“مساحة J” ينبثق بداخلها. شيء يذكرنا بكيفية عمل العقول البشرية، ولكننا
00:04:32لم نبرمجه في النموذج. بالنسبة للبعض، قد يثير هذا سؤالاً. هل يمكن أن تكون نماذج الذكاء الاصطناعي واعية؟
00:04:40ففي النهاية، استلهمت تجاربنا من نظريات الوعي البشري. الشيء هو،
00:04:46يستخدم الناس كلمة “واعٍ” لتعني أشياء كثيرة. لا يمكن لتجاربنا أن تخبرنا ما إذا كان لدى الذكاء الاصطناعي
00:04:52تجارب أو يشعر بشيء ما من الداخل. لكن يمكنها أن تخبرنا أنه طور آليات ذهنية
00:04:59تشبه في بعض النواحي آلياتنا. مساحة عمل ذهنية صغيرة يمكنه استخدامها للتفكير والاستدلال،
00:05:05تجلس فوق محيط من المعالجة التلقائية التي لا يلاحظها. كلما زاد فهمنا لهذه
00:05:12الآليات، زادت قدرتنا على الحفاظ على أمان هذه الأنظمة وفائدتها. وربما،
00:05:18لفهم عقولنا بشكل أكثر وضوحاً.