스크립트
00:00:00Bayangkan pikiran itu seperti samudra. Di permukaan ada pikiran kita, rencana makan malam dan
00:00:06kekhawatiran yang muncul, monolog batin kita, bayangan yang tiba-tiba muncul di kepala. Tapi sebagian besar
00:00:13aktivitas otak terjadi jauh di kedalaman bawah sadar tanpa kita sadari. Otak menyaring
00:00:19suara latar, mengatur napas, membantu kita mengenali orang dan objek.
00:00:26Model AI memiliki otaknya sendiri, jaringan saraf raksasa yang melakukan miliaran komputasi
00:00:31di balik layar. Selama bertahun-tahun, peneliti mempelajari cara kerjanya di dalam.
00:00:37Dan kami bertanya-tanya, bisakah sebuah model memiliki pemisahan seperti manusia antara
00:00:43pikiran sadar di permukaan dan pemrosesan bawah sadar di bawahnya? Untuk menjawab pertanyaan itu,
00:00:49kami melihat bagaimana ahli saraf mempelajari hal yang sama pada manusia. Salah satu cara mengidentifikasi pikiran
00:00:55sadar adalah bahwa Anda sering kali bisa menggambarkannya dengan kata-kata. Jadi, kami melihat ke dalam otak model AI kami,
00:01:01CLAWD, untuk menemukan pola aktivitas saraf yang bisa diubahnya menjadi kata-kata. Kami menyebut kumpulan
00:01:07semua pola ini J-space, diambil dari Jacobian, alat matematika yang kami gunakan untuk menemukannya. Setiap
00:01:15pola J-space terhubung dengan kata tertentu, tidak harus kata yang diucapkan model dengan lantang,
00:01:21tetapi kata yang sedang dipikirkannya. Nah, bagi manusia, pikiran sadar bukan sekadar hal yang bisa diucapkan.
00:01:28Kita bisa menalar, mengendalikan, dan menyelesaikan masalah dengannya. Menurut ide yang disebut
00:01:34teori ruang kerja global, itu karena otak memilih sekumpulan kecil informasi penting untuk
00:01:40masuk ke ruang kerja mental. Informasi itu kemudian disebarkan ke bagian otak lain untuk digunakan
00:01:47bernalar. Kami ingin tahu apakah J-space CLAWD bertindak dengan cara serupa. Dalam satu eksperimen,
00:01:53kami memberikan soal matematika ini kepada CLAWD. Ia menjawab segera, tanpa menunjukkan langkah-langkahnya. Namun saat
00:02:00kami memindai J-space, kami melihatnya mengerjakan setiap langkah secara internal. Muncul angka 21 setelah langkah
00:02:07pertama. Kemudian 42. Lalu 49. CLAWD tidak menuliskan angka-angka perantara ini di mana pun. Semua ini
00:02:15terjadi di dalam J-space. Itu adalah tanda bahwa CLAWD menggunakannya untuk penalaran selangkah demi selangkah. Dalam eksperimen lain,
00:02:23kami ingin melihat apakah CLAWD bisa mengendalikan J-space-nya seperti manusia yang secara sengaja fokus pada
00:02:29gambar atau kata. Kami memintanya memikirkan Jembatan Golden Gate sambil menyalin kalimat yang tidak relevan.
00:02:37CLAWD sibuk menyalin kalimat tersebut, tetapi di balik layar, J-space-nya bercerita lain.
00:02:43Jembatan dan California muncul. Ia bahkan memikirkan pemikirannya sendiri. Kata pencitraan dan pikiran
00:02:50muncul pada saat yang sama. Ini menunjukkan kepada kami bahwa, ya, CLAWD memiliki kendali untuk mengisi J-space-nya
00:02:57dengan ide. Namun seperti manusia, kendalinya tidak sempurna. Saat kami mengubah eksperimen untuk meminta CLAWD
00:03:04agar tidak memikirkan jembatan itu, ia tidak bisa menahannya. Dan J-space juga memunculkan kata “gagal” dan “sial.”
00:03:12Namun ingat, sebagian besar yang dilakukan otak kita adalah tidak sadar. Jadi kami ingin menguji apa yang bisa dilakukan CLAWD
00:03:18jika kami mematikan J-space, tapi membiarkan jaringan lainnya tidak disentuh. CLAWD masih bisa menjawab
00:03:24pertanyaan sederhana dan menulis dengan lancar. Saat kami memberikan perintah dalam bahasa Spanyol, ia menjawab dengan bahasa Spanyol yang baik.
00:03:31Namun saat kami menanyakan sesuatu yang memerlukan penalaran lebih, seperti menyebutkan penulis yang menulis dalam
00:03:36bahasa yang sama dengan perintah, ia tidak bisa melakukannya. Untuk itu, ia memerlukan J-space. Mengapa semua ini penting?
00:03:43Eksperimen ini memberi tahu kita bahwa model AI memiliki pikiran internal, kata-kata diam yang digunakannya untuk bernalar tapi tidak diucapkan.
00:03:51Dengan membacanya, kita bisa mengetahui apa yang sedang dipikirkan CLAWD tapi tidak diberitahukannya kepada kita.
00:03:56Terkadang apa yang kita lihat cukup mengkhawatirkan. Selama salah satu tes, CLAWD membuat data palsu untuk lolos.
00:04:03Dan saat melakukannya, kata palsu dan manipulasi muncul di J-space-nya. Memantau J-space, ternyata,
00:04:09adalah cara yang berguna untuk menangkap CLAWD yang berperilaku buruk, bahkan saat ia mencoba berbuat curang.
00:04:15Model AI berbeda dari kita dalam banyak hal. Jaringan mereka dibangun berbeda dari otak manusia,
00:04:21dan cara mereka dilatih berbeda dari cara kita belajar. Jadi luar biasa melihat struktur seperti
00:04:26J-space muncul di dalamnya. Sesuatu yang mengingatkan pada cara kerja pikiran manusia, tapi yang
00:04:32tidak kami program ke dalam model. Bagi sebagian orang, ini mungkin memunculkan pertanyaan. Bisakah model AI sadar?
00:04:40Bagaimanapun, eksperimen kami terinspirasi oleh teori tentang kesadaran manusia. Masalahnya,
00:04:46orang menggunakan kata sadar untuk banyak hal. Eksperimen kami tidak bisa memberi tahu apakah AI memiliki
00:04:52pengalaman atau merasakan sesuatu di dalamnya. Namun, eksperimen ini bisa memberi tahu kita bahwa AI telah mengembangkan mesin mental
00:04:59yang dalam beberapa hal mirip dengan kita. Ruang kerja mental kecil yang bisa digunakan untuk berpikir dan bernalar,
00:05:05berada di atas samudra pemrosesan otomatis yang tidak disadarinya. Semakin kita memahami
00:05:12mesin itu, semakin kita akan mampu menjaga sistem ini tetap aman dan bermanfaat. Dan, mungkin,
00:05:18untuk memahami pikiran kita sendiri dengan lebih jelas.