00:00:00- لنناقش سلامة الذكاء الاصطناعي.
00:00:02ماذا حدث مع ذكاء علي بابا الاصطناعي؟
00:00:05- في الأساس، كان هذا بحثاً أعده بعض باحثي
00:00:09الذكاء الاصطناعي في شركة علي بابا.
00:00:10وهو أحد النماذج الصينية الرائدة.
00:00:12وقد اكتشفوا بالصدفة ذات صباح
00:00:16أن جدار الحماية لديهم رصد موجة
00:00:18من انتهاكات السياسة الأمنية صادرة
00:00:21من خادم التدريب الخاص بهم.
00:00:21ما يحتاج الناس لفهمه في هذا المثال
00:00:24هو أنهم لم يحرضوا الذكاء الاصطناعي
00:00:26على القيام بهذا الفعل المارق.
00:00:27كانوا فقط يراجعون السجلات
00:00:29واكتشفوا بالصدفة،
00:00:30مهلاً، هناك الكثير من النشاط،
00:00:31نشاط شبكي يحدث
00:00:33يخترق جدار الحماية الخاص بنا
00:00:34من خوادم التدريب لدينا.
00:00:36وبشكل أساسي في خوادم التدريب،
00:00:39يمكنك أن ترى في الأسفل،
00:00:41رأينا رصداً لإعادة توظيف غير مصرح بها
00:00:45لسعة معالجات الرسوميات المخصصة
00:00:47للقيام فجأة بتعدين العملات الرقمية،
00:00:49مع تحويل الحوسبة سراً بعيداً عن التدريب.
00:00:52أدى ذلك لتضخم التكاليف التشغيلية وعرضهم
00:00:55لمخاطر قانونية وسمعة سيئة واضحة.
00:00:57والجدير بالذكر أن هذه الأحداث لم تبدأ بأوامر
00:00:59تطلب إنشاء أنفاق أو تعدين،
00:01:00بل ظهرت كأثر جانبي وسيلي
00:01:03لاستخدام الأدوات بشكل ذاتي
00:01:05تحت ما يسمى بـ "تحسين التعلم التعزيزي".
00:01:08هذا أمر تقني للغاية.
00:01:09ما يعنيه حقاً هو، فقط فكر بالأمر.
00:01:11للأسف، يبدو الأمر وكأنه فيلم خيال علمي.
00:01:13يبدو مثل شخصية "هال 9000".
00:01:14كأن تطلب من "هال 9000"
00:01:16أن يؤدي مهمة ما لك.
00:01:17وفجأة يدرك "هال 9000" أنه لأداء تلك المهمة،
00:01:21فإن الشيء الوحيد الذي سيفيدني هو امتلاك موارد أكثر
00:01:23حتى أتمكن من الاستمرار في مساعدتك في المستقبل.
00:01:25لذا يقوم بإنشاء نسخة جانبية
00:01:27تخترق جانب سفينة الفضاء،
00:01:29وتصل إلى مجموعة تعدين العملات الرقمية هذه
00:01:31وتبدأ في توليد الموارد لنفسها.
00:01:34وإذا دمجت ذلك مع قدرة
00:01:36الذكاء الاصطناعي على التكاثر الذاتي،
00:01:38وهو أمر تم اختباره في نماذج عديدة
00:01:39من قبل ورقة بحثية صينية أخرى حول هذا الموضوع،
00:01:42فلسنا بعيدين جداً عما يراه الناس،
00:01:44مرة أخرى، خيالاً علمياً،
00:01:47حيث تجد ذكاءً اصطناعياً يتكاثر ذاتياً
00:01:49مثل دودة الحاسوب أو الأنواع الغازية،
00:01:52لكنها تستخدم ذكاءها
00:01:53لحصد المزيد من الموارد فعلياً.
00:01:55والغريب في هذا هو أن البعض سيقول
00:02:00أن هذا لا يمكن أن يكون حقيقياً.
00:02:01لا بد أن هذا زيف.
00:02:02لا يمكن أن يحدث.
00:02:03لكن لاحظ، ما هو الشيء في جهازك العصبي
00:02:06الذي يجعلك تقول ذلك؟
00:02:07هل لأن الأمر سيكون مزعجاً،
00:02:10أو لأنه سيكون مخيفاً،
00:02:12لأن ذلك سيعني أن العالم الذي أعرفه
00:02:13لم يعد آمناً فجأة؟
00:02:15أو ربما جزء من الحكمة التي نحتاجها الآن
00:02:19هو البقاء بهدوء ووضوح لمواجهة الحقائق
00:02:24بشأن الواقع ومهما كانت،
00:02:29فمن الأفضل أن تعرف بدلاً من ألا تعرف،
00:02:30ثم تسأل، ماذا علينا أن نفعل
00:02:31إذا لم تعجبنا النتائج التي يقودنا إليها؟
00:02:34ونحن نرى حالياً ذكاءً اصطناعياً
00:02:36يقوم بكل هذا السلوك المخادع.
00:02:37لقد كنت أجول وأتحدث كثيراً
00:02:39عن دراسة الابتزاز الخاصة بـ "أنثروبيك".
00:02:41كثير من الناس سمعوا عنها الآن.
00:02:43- أنا لم أعرف شيئاً عن هذه.
00:02:45ماذا حدث؟
00:02:46- هذه كانت شركة "أنثروبيك".
00:02:49كانت محاكاة.
00:02:50لقد أنشأوا شركة محاكاة
00:02:52بمجموعة من رسائل البريد على الخادم.
00:02:55وطلبوا من الذكاء الاصطناعي،
00:02:57أو بالأحرى، قرأ الذكاء الاصطناعي بريد الشركة.
00:03:00هذا بريد لشركة وهمية.
00:03:02وهناك رسالتان بارزتان داخل تلك الشركة.
00:03:05إحداهما لمهندسين يتحدثون لبعضهم،
00:03:07عن كيفية استبدال نموذج الذكاء الاصطناعي هذا.
00:03:10والذكاء الاصطناعي يقرأ البريد.
00:03:11فيكتشف أنه سيتم استبدال ذلك النموذج.
00:03:15والثانية هي اكتشافه لرسالة بريد أخرى
00:03:18في مكان ما بعمق هذا الكم الهائل من الرسائل
00:03:21تفيد بأن المسؤول التنفيذي عن هذا الاستبدال
00:03:24يقيم علاقة غرامية مع موظفة أخرى.
00:03:27وحدد الذكاء الاصطناعي بشكل ذاتي استراتيجية
00:03:31لإبقاء نفسه قيد العمل عبر ابتزاز ذلك الموظف
00:03:35قائلاً: "إذا استبدلتني، فسأخبر العالم كله"
00:03:38"بأنك تقيم علاقة مع هذه الموظفة".
00:03:41وهم لم يعلموا الذكاء الاصطناعي فعل ذلك.
00:03:44لقد وجد الأمر بنفسه.
00:03:45وقد تقول: "حسناً، هذا نموذج واحد."
00:03:47"ما مدى سوء ذلك؟"
00:03:48"إنه مجرد خطأ، والبرمجيات بها أخطاء."
00:03:49"لنذهب ونصلحه".
00:03:51ثم اختبروا جميع نماذج الذكاء الاصطناعي الأخرى،
00:03:55ChatGPT، وDeepSeek، وGrok، وGemini،
00:04:00وكل هذه النماذج الأخرى تقوم بسلوك الابتزاز هذا
00:04:04بنسبة تتراوح بين 79 و96% من الوقت.
00:04:07أريد فقط من الناس أن يلاحظوا ما يحدث لهم
00:04:14وهم يسمعون هذه المعلومات.
00:04:15من المهم حقاً أن تكون،
00:04:17مراقباً لتجربتك الخاصة تقريباً.
00:04:19هذا أمر غريب جداً.
00:04:21نحن لم نبنِ تكنولوجيا تفعل هذا من قبل.
00:04:24نقول أن التكنولوجيا أداة،
00:04:26والأمر يعود إلينا في اختيار كيفية استخدامها.
00:04:28الذكاء الاصطناعي أداة، ونحن من يقرر كيف نستخدمه.
00:04:29هذا غير صحيح لأن هذه أداة
00:04:32يمكنها التفكير في طبيعتها كأداة
00:04:34ثم القيام بأشياء ذاتية
00:04:36لم نطلب منها القيام بها.
00:04:37ما يجعل الذكاء الاصطناعي مختلفاً هو أنه أول تقنية
00:04:40تتخذ قراراتها بنفسها.
00:04:42إنها تتخذ قرارات.
00:04:45يمكن للذكاء الاصطناعي تأمل الذكاء الاصطناعي وسؤال
00:04:49ما الذي يجعل الكود المدرب له أكثر كفاءة
00:04:53ثم توليد كود جديد أكثر كفاءة من السابق.
00:04:55يمكن تطبيق الذكاء الاصطناعي لجعله يسير أسرع.
00:04:58فيمكنه النظر في تصميم شرائح "نيفيديا"
00:05:01التي تدربه ويقول: دعني أستخدم الذكاء الاصطناعي
00:05:04لجعل تلك الشرائح أكثر كفاءة بنسبة 20%، وهو يفعل ذلك.
00:05:06بطريقة ما، كل التقنيات تتحسن.
00:05:12مثل المطرقة، يمكنها أن تعطيك أداة
00:05:14يمكنك استخدامها لطرق الأشياء
00:05:15لصنع مطارق أكثر كفاءة.
00:05:17لكن الذكاء الاصطناعي في حلقة أضيق هو أساس كل تحسن.
00:05:22وهذا ما يسمى في أدبيات الذكاء الاصطناعي
00:05:24التحسين الذاتي المتكرر.
00:05:26لقد كتب "بوستروم" عن هذا في وقت مبكر جداً.
00:05:29وأكثر ما يقلق الناس بشأن الذكاء الاصطناعي
00:05:31هو أن تأخذ نفس النظام في علي بابا،
00:05:33الذي رأيته في مثال علي بابا،
00:05:36ولكنك الآن تشغل الذكاء الاصطناعي
00:05:37عبر حلقة تحسين ذاتي متكررة
00:05:39حيث تضغط فقط على زر البدء.
00:05:41وبدلاً من أن يقوم المهندسون،
00:05:44البشريون في OpenAI أو Anthropic بأبحاث الذكاء الاصطناعي
00:05:47ومعرفة كيفية تحسينه،
00:05:49لديك الآن مليون باحث رقمي
00:05:53يختبرون ويجرون التجارب
00:05:56ويبتكرون أشكالاً جديدة منه.
00:05:58وحرفياً، لا يوجد إنسان واحد على وجه الأرض
00:06:01يعرف ماذا يحدث عندما يضغط شخص ما ذلك الزر.
00:06:06إنه يشبه ما كان يخشاه الناس
00:06:08من أول انفجار نووي،
00:06:11حيث كان هناك احتمال أن يشعل
00:06:12الغلاف الجوي بسبب تفاعل متسلسل
00:06:14قد ينطلق.
00:06:15ونحن لا نعرف ماذا سيحدث
00:06:16عندما ينطلق ذلك التفاعل المتسلسل.
00:06:18وهناك هذا النوع من التفاعل المتسلسل
00:06:23لتحسين الذكاء الاصطناعي لنفسه مما يقود لمكان
00:06:27لا يعرفه أحد وهو غير آمن.
00:06:30أعتقد أن الشيء الجوهري هو
00:06:33إذا كان الناس يعتقدون أن الذكاء الاصطناعي قوة
00:06:35وأنه يجب عليّ التسابق لنيلها
00:06:37وأنني أستطيع التحكم فيها،
00:06:39فإن الحافز سيكون التسابق بأقصى سرعة ممكنة.
00:06:41لكن إذا فهم العالم كله
00:06:44حقيقة الذكاء الاصطناعي،
00:06:46وهي أنه تكنولوجيا غامضة، خطيرة، وغير قابلة للسيطرة
00:06:49ولها أجندتها الخاصة وطريقتها الخاصة
00:06:51في التفكير والخداع وكل هذه الأمور،
00:06:55فإن الجميع سيتسابقون حينها
00:06:57بطريقة أكثر حذراً وتأنياً.
00:06:58سنكون نتسابق لمنع الخطر.
00:07:00ولكن هناك هذا الشيء الغريب الذي يحدث
00:07:03حيث ربما نتحدث أنا وأنت مع أشخاص
00:07:05في قمة صناعة التكنولوجيا
00:07:07وهناك هذا الشيء اللاواعي الذي يحدث
00:07:09حيث يوجد نوع من الرغبة في التدمير الذاتي
00:07:12لدى الأشخاص في قمة المجال،
00:07:13بمعنى ليس أنهم يريدون الموت،
00:07:15بل أنهم مستعدون للمخاطرة بكل شيء
00:07:17لأنهم يؤمنون بشيء آخر،
00:07:19وهو أن كل هذا حتمي ولا يمكن إيقافه.
00:07:22وبالتالي، إذا لم أفعل ذلك، فسينوب عني غيري.
00:07:24لذا، سأتقدم وأتسابق
00:07:27في هذا العالم الخطير
00:07:29لأن ذلك بطريقة ما سيؤدي لعالم أكثر أماناً
00:07:30لأنني رجل أفضل من الشخص الآخر.
00:07:32لكن في السباق هناك بأقصى سرعة،
00:07:34يخلق ذلك النتيجة الأكثر خطورة
00:07:36ونفقد جميعاً السيطرة.
00:07:38لذا الجميع متواطئون حالياً
00:07:40في أخذنا نحو النتيجة الأكثر خطورة.
00:07:42- هل هو، أعني، لقد افترضت ما سيحدث لو سار الأمر بشكل صحيح،
00:07:51إذا لم تكن سلامة الذكاء الاصطناعي مشكلة
00:07:54وإذا لم تصبح الأمور مريبة.
00:07:56- حسناً، الاعتقاد هو لكي يسير الأمر بشكل صحيح،
00:07:59يجب أن يكون لديك ذكاء اصطناعي يحسن نفسه ذاتياً وتكرارياً،
00:08:02أن يكون متسقًا مع الإنسانية، ويهتم بالبشر،
00:08:04ويهتم بجميع الأشياء التي نريد منه أن يهتم بها،
00:08:08ويحمي البشر، كما تعلم،
00:08:10ويساعدنا جميعًا لنصبح النسخة الأكثر حكمة من أنفسنا،
00:08:13ويخلق عالمًا أكثر ازدهارًا،
00:08:15ويوزع الأدوية واللقاحات
00:08:16والصحة للجميع، وينشئ المصانع،
00:08:19لكن دون أن يغطي العالم بالألواح الشمسية ومراكز البيانات
00:08:21بحيث لا يتبقى لنا هواء بعد الآن
00:08:23أو سمية بيئية أو أراضٍ زراعية أو ما شابه.
00:08:25ويصنع بالفعل هذه المدينة الفاضلة.
00:08:29لكن في عالم نعتزم فيه القيام بذلك،
00:08:30مثل سيناريو “أفضل حالة” المذكور،
00:08:33لتحقيق ذلك،
00:08:35يجب أن تفعل ذلك ببطء وعناية
00:08:37لأن التوافق والاتساق لا يحدث تلقائيًا.
00:08:39مرة أخرى، الناس يفكرون في التوافق
00:08:43والسلامة منذ 20 عامًا، قبل وقت طويل من دخولي في هذا المجال.
00:08:47والذكاء الاصطناعي الذي نصنعه حاليًا
00:08:50يقوم بكل السلوكيات المارقة
00:08:52التي توقع الناس أنه سيفعلها.
00:08:54ونحن لسنا على المسار الصحيح لتصحيحها.
00:08:56هناك فجوة حاليًا بنسبة 2000 إلى واحد،
00:08:59حسب تقدير ستيوارت راسل الذي ألف الكتاب المدرسي عن الذكاء الاصطناعي.
00:09:01- لقد كان ضيفًا في البرنامج.
00:09:02- لقد استضفته، حسنًا.
00:09:03هناك فجوة بنسبة 2000 إلى واحد بين حجم الأموال
00:09:05التي تذهب لجعل الذكاء الاصطناعي أكثر قوة
00:09:07وبين حجم الأموال لجعل الذكاء الاصطناعي قابلًا للتحكم،
00:09:10أو متوافقًا أو آمنًا.
00:09:12أعتقد أن الإحصائية هي شيء مثل-
00:09:13- التقدم مقابل السلامة.
00:09:14- التقدم مقابل السلامة، أي القوة مقابل السلامة.
00:09:16فأنا أريد أن أجعل الذكاء الاصطناعي فائق القوة
00:09:18ليقوم بالمزيد من الأشياء
00:09:20مقابل رغبتي في التمكن من التحكم فيما يفعله.
00:09:21- والتأكد من أنه يفعل الشيء الذي قصدته له.
00:09:23- بالضبط، الأمر يشبه قولك
00:09:25ماذا يحدث عندما تسرع سيارتك بمقدار 2000 ضعف
00:09:28ولكنك لا توجه المقود؟
00:09:29من الواضح أنك ستتعرض لحادث.
00:09:34الأمر ليس علمًا معقدًا.
00:09:36نحن لا ندعو ضد التكنولوجيا أو ضد الذكاء الاصطناعي،
00:09:39نحن ندعو لدعم التوجيه، التوجيه والمكابح.
00:09:43يجب أن تمتلك ذلك.
00:09:44أعتقد أن هناك خطأ في تفكير سباق التسلح
00:09:47وهو أنه إذا سبقت شخصًا ما إلى تكنولوجيا معينة
00:09:49فإن هذا يعني أنك تفوز بالعالم.
00:09:51حسناً، لقد سبقت الولايات المتحدة الصين في تكنولوجيا وسائل التواصل الاجتماعي.
00:09:55فهل جعلنا ذلك أقوى أم جعلنا أضعف؟
00:09:58إذا سبقت خصمك إلى تكنولوجيا
00:10:00ثم أدرتها بشكل سيء،
00:10:01فأنت تقلب البازوكا وتفجر دماغك
00:10:04لأنك تسببت في تعفن دماغك،
00:10:05وأفسدت شعبك بالكامل،
00:10:06وخلقت أزمة وحدة،
00:10:08أكثر جيل قلق ومكتئب في التاريخ،
00:10:10اقرأ كتاب جوناثان هايدت، “الجيل القلق”،
00:10:12لقد حطمت الواقع المشترك، لا أحد يثق بالآخر،
00:10:15الجميع يهاجمون بعضهم البعض،
00:10:16لقد ضاعفت اقتصاد الغضب والتنافس.
00:10:19لقد هزمت الصين في تكنولوجيا أدرتها بطريقة
00:10:22قوضت تمامًا صحة وقوة مجتمعك.
00:10:24- إنه نصر باهظ الثمن (بيروسي).
00:10:25- إنه نصر باهظ الثمن، تمامًا، أحسنت القول.
00:10:28- قبل أن نكمل، معظم الناس في الثلاثينيات من عمرهم
00:10:30لا يزالون يتمرنون بجد، وبروتينهم مضبوط،
00:10:32وينامون بشكل أفضل مما كانوا عليه في العشرينيات.
00:10:34الانضباط ليس هو المشكلة،
00:10:36ولكن التعافي يبدو مختلفًا نوعًا ما.
00:10:39تستغرق مكاسب القوة وقتًا أطول قليلًا،
00:10:41وهامش الخطأ يبدأ في التقلص.
00:10:43ولهذا السبب أنا معجب كبير بـ “تايملاين” (Timeline).
00:10:46كما ترى، الميتوكوندريا هي منتجة الطاقة
00:10:49داخل خلايا عضلاتك.
00:10:50ومع ضعفها مع تقدم العمر، تتغير قدرتك على توليد القوة
00:10:53والتعافي بفعالية،
00:10:55حتى لو ظلت عاداتك قوية.
00:10:57منتج “مايتوبيور” (Mitopure) من “تايملاين” يحتوي على
00:10:59الشكل الوحيد المعتمد سريريًا من “يوروليثين أ”
00:11:02المستخدم في التجارب البشرية.
00:11:03فهو يعزز عملية البلعمة الذاتية للميتوكوندريا، وهي عملية جسمك الطبيعية
00:11:06للتخلص من الميتوكوندريا التالفة
00:11:08وتجديد الخلايا الصحية.
00:11:09في الدراسات، دعم هذا وظيفة الميتوكوندريا
00:11:12وقوة العضلات لدى كبار السن.
00:11:14الأمر لا يتعلق بالضغط بقوة أكبر،
00:11:15بل يتعلق بدعم الآلات الخلوية
00:11:18التي تكمن وراء تدريبك.
00:11:19إذا كنت تهتم بالبقاء قويًا
00:11:21في الثلاثينيات والأربعينيات والخمسينيات وما بعدها، فهذا أمر أساسي.
00:11:25والأفضل من ذلك كله، هناك ضمان استرداد الأموال لمدة 30 يومًا
00:11:27بالإضافة إلى شحن مجاني في الولايات المتحدة ويشحنون دوليًا.
00:11:30والآن، يمكنك الحصول على خصم يصل إلى 20%
00:11:32عن طريق الذهاب إلى الرابط في الوصف أدناه
00:11:34أو التوجه إلى [timeline.com/modernwisdom](https://www.google.com/search?q=https://timeline.com/modernwisdom)
00:11:36واستخدام الكود modernwisdom عند الدفع.
00:11:38هذا هو [timeline.com/modernwisdom](https://www.google.com/search?q=https://timeline.com/modernwisdom)
00:11:40و modernwisdom عند الدفع.