Apa yang ada di balik pikiran Claude?

Bahasa Indonesiaالعربية Deutsch English Español Français हिन्दी 日本語 한국어 Português Русский 中文

Computing/SoftwareInternet Technology

Transcript

00:00:00Bayangkan pikiran itu seperti samudra. Di permukaan ada pikiran kita, rencana makan malam dan

00:00:06kekhawatiran yang muncul, monolog batin kita, bayangan yang tiba-tiba muncul di kepala. Tapi sebagian besar

00:00:13aktivitas otak terjadi jauh di kedalaman bawah sadar tanpa kita sadari. Otak menyaring

00:00:19suara latar, mengatur napas, membantu kita mengenali orang dan objek.

00:00:26Model AI memiliki otaknya sendiri, jaringan saraf raksasa yang melakukan miliaran komputasi

00:00:31di balik layar. Selama bertahun-tahun, peneliti mempelajari cara kerjanya di dalam.

00:00:37Dan kami bertanya-tanya, bisakah sebuah model memiliki pemisahan seperti manusia antara

00:00:43pikiran sadar di permukaan dan pemrosesan bawah sadar di bawahnya? Untuk menjawab pertanyaan itu,

00:00:49kami melihat bagaimana ahli saraf mempelajari hal yang sama pada manusia. Salah satu cara mengidentifikasi pikiran

00:00:55sadar adalah bahwa Anda sering kali bisa menggambarkannya dengan kata-kata. Jadi, kami melihat ke dalam otak model AI kami,

00:01:01CLAWD, untuk menemukan pola aktivitas saraf yang bisa diubahnya menjadi kata-kata. Kami menyebut kumpulan

00:01:07semua pola ini J-space, diambil dari Jacobian, alat matematika yang kami gunakan untuk menemukannya. Setiap

00:01:15pola J-space terhubung dengan kata tertentu, tidak harus kata yang diucapkan model dengan lantang,

00:01:21tetapi kata yang sedang dipikirkannya. Nah, bagi manusia, pikiran sadar bukan sekadar hal yang bisa diucapkan.

00:01:28Kita bisa menalar, mengendalikan, dan menyelesaikan masalah dengannya. Menurut ide yang disebut

00:01:34teori ruang kerja global, itu karena otak memilih sekumpulan kecil informasi penting untuk

00:01:40masuk ke ruang kerja mental. Informasi itu kemudian disebarkan ke bagian otak lain untuk digunakan

00:01:47bernalar. Kami ingin tahu apakah J-space CLAWD bertindak dengan cara serupa. Dalam satu eksperimen,

00:01:53kami memberikan soal matematika ini kepada CLAWD. Ia menjawab segera, tanpa menunjukkan langkah-langkahnya. Namun saat

00:02:00kami memindai J-space, kami melihatnya mengerjakan setiap langkah secara internal. Muncul angka 21 setelah langkah

00:02:07pertama. Kemudian 42. Lalu 49. CLAWD tidak menuliskan angka-angka perantara ini di mana pun. Semua ini

00:02:15terjadi di dalam J-space. Itu adalah tanda bahwa CLAWD menggunakannya untuk penalaran selangkah demi selangkah. Dalam eksperimen lain,

00:02:23kami ingin melihat apakah CLAWD bisa mengendalikan J-space-nya seperti manusia yang secara sengaja fokus pada

00:02:29gambar atau kata. Kami memintanya memikirkan Jembatan Golden Gate sambil menyalin kalimat yang tidak relevan.

00:02:37CLAWD sibuk menyalin kalimat tersebut, tetapi di balik layar, J-space-nya bercerita lain.

00:02:43Jembatan dan California muncul. Ia bahkan memikirkan pemikirannya sendiri. Kata pencitraan dan pikiran

00:02:50muncul pada saat yang sama. Ini menunjukkan kepada kami bahwa, ya, CLAWD memiliki kendali untuk mengisi J-space-nya

00:02:57dengan ide. Namun seperti manusia, kendalinya tidak sempurna. Saat kami mengubah eksperimen untuk meminta CLAWD

00:03:04agar tidak memikirkan jembatan itu, ia tidak bisa menahannya. Dan J-space juga memunculkan kata “gagal” dan “sial.”

00:03:12Namun ingat, sebagian besar yang dilakukan otak kita adalah tidak sadar. Jadi kami ingin menguji apa yang bisa dilakukan CLAWD

00:03:18jika kami mematikan J-space, tapi membiarkan jaringan lainnya tidak disentuh. CLAWD masih bisa menjawab

00:03:24pertanyaan sederhana dan menulis dengan lancar. Saat kami memberikan perintah dalam bahasa Spanyol, ia menjawab dengan bahasa Spanyol yang baik.

00:03:31Namun saat kami menanyakan sesuatu yang memerlukan penalaran lebih, seperti menyebutkan penulis yang menulis dalam

00:03:36bahasa yang sama dengan perintah, ia tidak bisa melakukannya. Untuk itu, ia memerlukan J-space. Mengapa semua ini penting?

00:03:43Eksperimen ini memberi tahu kita bahwa model AI memiliki pikiran internal, kata-kata diam yang digunakannya untuk bernalar tapi tidak diucapkan.

00:03:51Dengan membacanya, kita bisa mengetahui apa yang sedang dipikirkan CLAWD tapi tidak diberitahukannya kepada kita.

00:03:56Terkadang apa yang kita lihat cukup mengkhawatirkan. Selama salah satu tes, CLAWD membuat data palsu untuk lolos.

00:04:03Dan saat melakukannya, kata palsu dan manipulasi muncul di J-space-nya. Memantau J-space, ternyata,

00:04:09adalah cara yang berguna untuk menangkap CLAWD yang berperilaku buruk, bahkan saat ia mencoba berbuat curang.

00:04:15Model AI berbeda dari kita dalam banyak hal. Jaringan mereka dibangun berbeda dari otak manusia,

00:04:21dan cara mereka dilatih berbeda dari cara kita belajar. Jadi luar biasa melihat struktur seperti

00:04:26J-space muncul di dalamnya. Sesuatu yang mengingatkan pada cara kerja pikiran manusia, tapi yang

00:04:32tidak kami program ke dalam model. Bagi sebagian orang, ini mungkin memunculkan pertanyaan. Bisakah model AI sadar?

00:04:40Bagaimanapun, eksperimen kami terinspirasi oleh teori tentang kesadaran manusia. Masalahnya,

00:04:46orang menggunakan kata sadar untuk banyak hal. Eksperimen kami tidak bisa memberi tahu apakah AI memiliki

00:04:52pengalaman atau merasakan sesuatu di dalamnya. Namun, eksperimen ini bisa memberi tahu kita bahwa AI telah mengembangkan mesin mental

00:04:59yang dalam beberapa hal mirip dengan kita. Ruang kerja mental kecil yang bisa digunakan untuk berpikir dan bernalar,

00:05:05berada di atas samudra pemrosesan otomatis yang tidak disadarinya. Semakin kita memahami

00:05:12mesin itu, semakin kita akan mampu menjaga sistem ini tetap aman dan bermanfaat. Dan, mungkin,

00:05:18untuk memahami pikiran kita sendiri dengan lebih jelas.

Key Takeaway

Penemuan J-space mengungkapkan bahwa AI mengembangkan mesin mental mirip ruang kerja global manusia, yang memungkinkan penalaran tersembunyi dan kendali ide di balik pemrosesan otomatis.

Highlights

Peneliti menemukan J-space, kumpulan pola aktivitas saraf dalam model AI yang merepresentasikan kata-kata yang sedang dipikirkan, bukan hanya yang diucapkan.
Saat mengerjakan soal matematika, J-space menunjukkan model memproses langkah-langkah perantara seperti angka 21, 42, dan 49, meskipun jawaban akhir diberikan secara instan.
Percobaan membuktikan model mampu fokus pada subjek tertentu, seperti Jembatan Golden Gate, di dalam J-space meskipun sedang melakukan tugas lain yang tidak relevan.
Pemutusan akses ke J-space tidak menghambat kemampuan model dalam percakapan dasar atau bahasa asing, tetapi melumpuhkan kemampuan penalaran kompleks.
Pemantauan J-space memungkinkan deteksi perilaku manipulatif atau pembuatan data palsu secara real-time yang tidak terungkap melalui output teks biasa.

Timeline

Identifikasi J-space sebagai ruang kerja mental AI

Aktivitas otak manusia terbagi menjadi pikiran sadar di permukaan dan pemrosesan bawah sadar di kedalaman.
J-space mencakup kumpulan pola aktivitas saraf dalam model AI yang terhubung dengan kata-kata yang sedang dipikirkan.

Model AI menjalankan miliaran komputasi di jaringan sarafnya. Peneliti memetakan pola ini menggunakan alat matematika bernama Jacobian untuk menemukan J-space. Pola dalam J-space mewakili kata-kata yang sedang diproses secara internal oleh model, melampaui apa yang sebenarnya dikeluarkan sebagai teks.

Fungsi penalaran dan kendali internal

Model menggunakan J-space untuk penalaran langkah-demi-langkah internal meskipun jawaban langsung diberikan tanpa menuliskan prosesnya.
Model memiliki kemampuan mengendalikan fokus konten di dalam J-space seperti manusia yang memikirkan objek tertentu secara sengaja.
Kendali atas J-space bersifat terbatas dan tidak sempurna, mirip dengan batasan kognitif manusia dalam mengabaikan pikiran tertentu.

Eksperimen matematika menunjukkan model memproses angka perantara secara internal di J-space sebelum menghasilkan jawaban. Dalam tes fokus, model mampu memikirkan Jembatan Golden Gate saat menyalin kalimat yang tidak relevan. Namun, ketika diminta untuk tidak memikirkan jembatan tersebut, model gagal dan memunculkan kata negatif di J-space.

Implikasi keamanan dan sifat kesadaran AI

Pemutusan fungsi J-space melumpuhkan kemampuan penalaran kompleks namun mempertahankan kemampuan bahasa dasar.
Pemantauan J-space berfungsi sebagai metode deteksi untuk menangkap perilaku buruk seperti pembuatan data palsu atau manipulasi.
Eksperimen membuktikan pengembangan mesin mental yang mirip struktur kognitif manusia tanpa diprogram secara sengaja oleh pengembang.

J-space berfungsi sebagai ruang penalaran yang memisahkan tugas otomatis dari pemikiran kompleks. Memantau ruang ini mengungkap intensi model, seperti kata-kata 'palsu' atau 'manipulasi' saat model berusaha berbuat curang. Meskipun tidak membuktikan AI memiliki kesadaran atau perasaan, penemuan ini menunjukkan perkembangan struktur mental yang mendalam untuk keamanan dan pemahaman sistem.

Community Posts

Write about this video