Transcript
00:00:00Ini benar-benar gila.
00:00:01Pemerintah AS baru saja memerintahkan Anthropic untuk menonaktifkan Fable 5 dan Mythos 5 bagi semua pelanggan.
00:00:06Anthropic baru saja men-tweet,
00:00:07Pemerintah AS, dengan mengutip otoritas keamanan nasional,
00:00:10telah mengeluarkan arahan kontrol ekspor untuk menghentikan semua akses ke Fable 5 dan Mythos 5
00:00:14oleh warga negara asing mana pun, baik di dalam maupun di luar Amerika Serikat,
00:00:18termasuk karyawan Anthropic yang merupakan warga negara asing.
00:00:21Efek bersih dari perintah ini adalah kami harus segera menonaktifkan Fable 5 dan Mythos 5
00:00:25bagi semua pelanggan untuk memastikan kepatuhan.
00:00:27Akses ke semua model Anthropic lainnya tidak akan terpengaruh.
00:00:30Apa yang sebenarnya terjadi?
00:00:37Jadi saya pikir saya akan mencobanya dengan sangat cepat dan tampaknya saya masih memiliki Fable
00:00:40dan masih berfungsi, ia masih membalas.
00:00:42Jadi pergilah dan gunakan langganan Fable Anda dengan sangat cepat, Anda akan segera kehilangannya.
00:00:46Inilah pernyataan resmi lengkap dari Anthropic yang membahas sedikit tentang apa yang terjadi di sini.
00:00:50Dimulai dengan tweet yang baru saja saya bacakan.
00:00:52Kita bisa melihat di sini kami menerima arahan dari pemerintah hari ini pukul 5.21 sore,
00:00:55itu kira-kira empat jam yang lalu.
00:00:58Dan dikatakan bahwa surat itu tidak memberikan rincian spesifik tentang masalah keamanan nasionalnya.
00:01:02Pemahaman kami adalah bahwa pemerintah yakin telah mengetahui metode untuk memintas
00:01:05atau menjebol Fable 5.
00:01:07Kami telah meninjau demonstrasi teknik spesifik ini yang digunakan untuk mengidentifikasi sejumlah kecil
00:01:11kerentanan kecil yang sudah diketahui sebelumnya.
00:01:13Kerentanan ini semua tampak relatif sederhana
00:01:15dan kami menemukan bahwa model lain yang tersedia untuk umum mampu menemukannya juga tanpa
00:01:20memerlukan pemintasan.
00:01:21Inti dari itu adalah bahwa pemerintah AS telah menemukan cara untuk menjebol yang akan memungkinkan Fable 5
00:01:25untuk menemukan kerentanan di banyak perangkat lunak dan Anthropic pada dasarnya mengatakan itu omong kosong
00:01:30dan semua yang ditemukannya adalah kerentanan publik dan model lain dapat menemukannya.
00:01:35Sejujurnya saya akan cukup terkejut jika ada cara menjebol di luar sana yang memungkinkan Fable 5 untuk
00:01:38melewati semua batasan keamanan sibernya karena seperti yang dilanjutkan Anthropic di sini,
00:01:43ketika mereka merilis Fable mereka memiliki banyak perlindungan,
00:01:45mereka melembagakan perlindungan kuat yang sangat mengurangi kemungkinan Fable disalahgunakan
00:01:49dan faktanya perlindungan kami begitu kuat sehingga banyak pengguna mengeluh bahwa mereka terlalu luas.
00:01:53Yang ya, itulah yang saya lihat dialami orang-orang, pada dasarnya jika Anda menyebutkan
00:01:57apa pun yang mendekati keamanan siber, Fable hanya akan mengatakan tidak.
00:02:00Mereka melanjutkan dengan mengatakan di sini bahwa tampaknya dalam minggu-minggu menjelang peluncuran Fable,
00:02:03Anthropic bekerja dengan pemerintah AS, AISI Inggris, beberapa organisasi pihak ketiga swasta
00:02:08dan tim internal untuk menguji perlindungan Fable selama ribuan jam secara total
00:02:13dan tes ini menunjukkan bahwa perlindungan Fable jauh lebih efektif daripada perlindungan model mana pun yang
00:02:17telah digunakan sebelumnya dan tidak ada penguji yang mampu menemukan cara menjebol universal.
00:02:21Jadi pada dasarnya tidak ada yang bisa menemukan cara untuk memintas semua batasan mereka tetapi mungkin ada
00:02:25beberapa cara menjebol khusus di sana-sini yang bisa melewati satu atau dua batasan.
00:02:29Dan itu masuk akal bagi saya, itu selalu merupakan permainan kucing dan tikus dalam menemukan cara menjebol ini dan
00:02:32menghentikannya dan kita bisa melihat di bawah sini bahwa Anthropic sebenarnya curiga bahwa ketahanan
00:02:36menjebol yang sempurna saat ini tidak mungkin bagi penyedia model mana pun. Setiap perlindungan yang digunakan di
00:02:40industri rentan terhadap cara menjebol non-universal yang dapat memperoleh beberapa informasi siber
00:02:44dalam keadaan tertentu dan kemungkinan cara menjebol universal pada akhirnya akan ditemukan di
00:02:49masa depan dan mereka menyatakan ini dengan jelas ketika mereka merilis Fable 5. Saya harus setuju dengan itu,
00:02:54Saya tidak tahu bagaimana Anda akan memiliki perlindungan menjebol yang sempurna, maksud saya saya mengikuti Pliny di Twitter
00:02:58dan untuk benar-benar model apa pun dari penyedia mana pun beberapa jam setelah dirilis dia tampaknya menemukan
00:03:03beberapa bentuk cara menjebol. Anthropic cukup sadar akan hal ini ketika mereka merilis Fable seperti yang
00:03:07mereka katakan di bawah sini. Ini adalah salah satu alasan mengapa mereka memiliki retensi data pelanggan selama 30 hari dengan
00:03:11Fable yang menghalangi banyak orang untuk benar-benar bisa menggunakannya tetapi seluruh alasannya adalah bahwa
00:03:15mereka dapat melacak segala bentuk cara menjebol dan menutupnya. Dan sejauh yang saya lihat tampaknya
00:03:19berhasil tetapi tampaknya pemerintah AS punya ide lain. Anthropic sendiri bahkan mengatakan mereka
00:03:23belum menerima pengungkapan tentang potensi cara menjebol non-universal yang mengkhawatirkan yang menyebabkan
00:03:28hasil berbahaya dan potensi cara menjebol yang mereka lihat sebagian besar berupa respons yang sepenuhnya jinak
00:03:32atau temuan kecil yang tidak memberikan peningkatan khusus Mythos. Tapi di sinilah kita bisa melihat
00:03:37rincian samar tentang apa yang ditemukan pemerintah. Tampaknya pemerintah hanya memberi mereka
00:03:40bukti lisan tentang potensi cara menjebol non-universal yang sempit yang pada dasarnya terdiri dari meminta
00:03:45model untuk membaca basis kode tertentu dan memperbaiki kekurangan perangkat lunak apa pun. Pemahaman kami adalah bahwa satu
00:03:50potensi cara menjebol dibagikan dengan pemerintah dan mereka telah meninjau laporan tersebut dan memvalidasi bahwa
00:03:54tingkat kemampuan yang ditampilkan tersedia secara luas dari model lain termasuk GPT 5.5 milik OpenAI
00:04:00dan digunakan setiap hari oleh para pembela yang menjaga sistem tetap aman. Kami akan membagikan lebih banyak rincian dalam 24 jam ke depan.
00:04:06Mencoba membaca di antara baris-baris itu tampaknya cara menjebol tersebut mungkin untuk mengkloning repo
00:04:10dan berkata bisakah Anda memperbaiki bug di ini dan salah satu bug itu akan menjadi kerentanan keamanan
00:04:14dan kemudian Anda bisa menggunakan itu dengan cara jahat dan mungkin ada cara menjebol untuk membuat Fable 5 melakukan
00:04:19pemeriksaan keamanan siber yang sedikit lebih canggih pada repo itu tetapi jelas rinciannya sangat samar karena mereka
00:04:24tidak ingin ini bocor. Pembelaan Anthropic di sini juga bermuara pada lihat OpenAI itu melakukan
00:04:28hal yang sama jadi saya berharap tindakan mereka mengadu tentang OpenAI tidak berarti kita juga akan kehilangan akses ke GPT 5.5.
00:04:34Bagian terakhir dari pernyataan ini hanyalah Anthropic yang mengatakan mereka mematuhi arahan hukum pemerintah
00:04:38dan menghapus akses ke Fable 5 dan Mythos 5 bagi semua pengguna namun mereka tidak setuju dengan temuan tentang potensi
00:04:43cara menjebol sempit yang seharusnya menjadi alasan untuk menarik kembali model komersial yang digunakan oleh ratusan juta orang
00:04:48dan jika standar ini diterapkan di seluruh industri mereka percaya itu pada dasarnya akan menghentikan semua penerapan model baru
00:04:53bagi semua penyedia model perbatasan. Dan ya saya setuju saya tidak terlalu mengerti bagaimana kita bisa maju dari sini
00:04:59jika kita berada di titik di mana semua model ini begitu kuat sehingga pemerintah AS hanya mengatakan tidak
00:05:03orang normal tidak bisa mendapatkan akses ke ini. Saya bertaruh pemerintah AS akan dengan senang hati memiliki Fable sepenuhnya untuk diri mereka sendiri
00:05:08tetapi kita semua tahu seberapa baik kesepakatan terakhir Anthropic dengan Departemen Pertahanan berjalan. Bagian lain yang mengkhawatirkan saya sebagai warga non-AS
00:05:14adalah bagian yang mengatakan menangguhkan semua akses ke Fable 5 dan Mythos 5 oleh warga negara asing mana pun. Jadi mungkin mereka akan menyelesaikan ini dengan hanya mengizinkan warga AS
00:05:22untuk menggunakan Fable 5 dan Mythos tetapi saya sangat berharap itu tidak terjadi dan akan menjadi dunia yang aneh di mana pemerintah AS
00:05:28membatasi orang untuk menggunakan model terbaik di luar sana. Dan saya kira itu juga berarti Anda harus mengunggah
00:05:32ID Anda ke Anthropic untuk membuktikan di mana Anda dilahirkan agar bisa menggunakan model ini. Jadi itu pada dasarnya semua informasi
00:05:38yang saya miliki saat ini. Berita ini benar-benar baru saja turun dan maksud saya saya tahu kita akan kehilangan Fable 5 dalam 11 hari
00:05:43dari langganan kita tetapi saya tidak berharap itu terjadi begitu cepat dan ini hanyalah dunia aneh yang kita masuki
00:05:49jadi beri tahu saya pendapat Anda tentang hal itu di komentar di bawah sementara Anda di sana, berlangganan
00:05:52dan seperti biasa sampai jumpa di yang berikutnya.
Community Posts
No posts yet. Be the first to write about this video!
Write about this video