스크립트
00:00:00Repositori baru yang paling populer musim panas ini, meraih lebih dari 83.000 bintang dalam enam minggu.
00:00:05Proyek ini tidak berasal dari Google, Microsoft, atau OpenAI. Melainkan dari PewDiePie. Ya, PewDiePie yang itu.
00:00:12Dan jika Anda membuka pelacak masalahnya, masalah yang mendapat suara terbanyak mengatakan, dan saya kutip,
00:00:17“ini benar-benar gila.” Dan komentar lain mengatakan, “Saya benar-benar takut bahkan untuk menjalankannya di komputer saya.”
00:00:22Jadi saya akan menjalankannya untuk Anda. Dan kita akan melihat seperti apa proyek ini sebenarnya.
00:00:30Proyek ini bernama Odysseus, dan menyebutnya sekadar antarmuka obrolan AI terasa kurang tepat. Ini adalah ruang kerja AI
00:00:38terintegrasi yang tampaknya melakukan semua hal yang terlalu panjang untuk saya bacakan satu per satu.
00:00:44Sambil melakukan semua ini, aplikasi ini tetap menyimpan data antar sesi sebagai satu aplikasi yang berjalan di komputer Anda.
00:00:50Berlisensi GPL, tanpa versi cloud, tanpa berlangganan. Setiap obrolan dan email tersimpan dalam folder data lokal biasa
00:00:56yang bisa Anda cadangkan sendiri. Latar belakangnya menjelaskan semuanya. Tahun lalu, PewDiePie mulai sangat tertarik
00:01:02pada AI lokal, mungkin lebih dalam dari sebagian besar dari kita. Dia merakit rig 10 GPU dengan modifikasi RTX
00:01:094090 48 GB, model 70 miliar parameter, dan antarmuka buatan sendiri bernama Chat OS yang memiliki dewan bot
00:01:18yang memilih jawaban terbaik sampai mereka mulai bekerja sama melawannya. Odysseus adalah sistem yang dibangun ulang untuk kita semua.
00:01:24Dia merilisnya pada 31 Mei, dan meraih 30.000 bintang dalam 48 jam. Mari kita lihat apa kemampuan sebenarnya.
00:01:30Jika Anda menyukai alat pemrograman untuk mempercepat alur kerja Anda, pastikan untuk berlangganan. Kami selalu merilis video baru.
00:01:35Jadi mari kita jalankan ini, karena di Mac, prosesnya sangat mudah: kloning, jalankan Docker, dan semuanya langsung dikonfigurasi.
00:01:41Saat saya menjalankan perintah grep, saya akan mendapatkan kata sandi sementara di terminal dan aplikasi berjalan di port 7000.
00:01:48Saya bisa masuk dengan nama pengguna “admin” dan kata sandi tersebut. Dan sekarang kita melihat antarmuka berfitur huruf monospace
00:01:52berwarna merah di atas latar gelap bergaya terminal. XDA menyebutnya unik namun hebat, sedangkan komentator Hacker News menyebutnya
00:01:58sangat buruk. Dan sejujurnya, perbedaan pendapat itu menggambarkan segalanya tentang proyek ini.
00:02:03Fitur pertama adalah Cookbook. Fitur ini memindai Mac, prosesor, serta memori terintegrasi, lalu memberi tahu model lokal mana
00:02:09yang benar-benar bisa berjalan di sini, kemudian mengunduh dan menjalankannya melalui Llama CPP dengan akselerasi Metal penuh.
00:02:16Satu tampilan itu menghemat waktu pencarian selama satu jam. Saya bisa menggeser kotak-kotaknya,
00:02:22yang cukup keren. Namun hal menarik berikutnya di sini adalah membandingkan model. Satu petunjuk,
00:02:27tiga model lokal, secara berdampingan, dalam uji acak. Saya bisa memasukkan petunjuk saya, dan setelah selesai,
00:02:34saya bisa memilih pemenangnya sebelum sistem menampilkan model mana yang menulis jawaban tersebut. Ini adalah dewan bot. Cukup keren.
00:02:40Semuanya dibangun di atas aplikasi FastAPI dalam kontainer, Odysseus, Chroma DB untuk memori vektor,
00:02:47mesin pencari SearXNG terintegrasi, dan Nifty untuk notifikasi push. Kombinasi inilah yang membuat fitur Deep Research,
00:02:54yang akan saya bahas sebentar lagi, bekerja tanpa API berbayar sama sekali. Fitur ini mencari melalui SearXNG miliknya sendiri,
00:03:00membaca sumber-sumbernya, dan menyajikan laporan beserta sitasi secara langsung dan lokal. Pengingat memorinya berfungsi nyata. Beri tahu satu fakta hari ini,
00:03:06tanyakan besok di sesi baru, dan sistem tetap mengetahuinya. Klien email memilah kotak masuk asli Anda melalui IMAP
00:03:11dan membuat draf balasan. Saya tidak ingin menyinkronkan email saya ke aplikasi ini karena alasan privasi, tetapi fiturnya sudah tersedia.
00:03:17Ada kalender terintegrasi tempat Anda dapat menambahkan acara seperti biasa, tetapi sekarang LLM
00:03:22dapat membaca isinya secara langsung. Saya bisa mencoba fitur deep research di sini, yang ingin saya bahas kembali.
00:03:26Saya bisa mengajukan pertanyaan dan sistem akan menjalankan alur agen multitahap. Analogik terbaik yang saya punya adalah proyek cloud mandiri
00:03:33yang dilengkapi dengan kotak masuk email terlampir. Nah, satu hal yang ingin saya sampaikan secara adil: alur kerja agen,
00:03:39Cookbook, dan alur penelitian diadaptasi dengan mencantumkan kredit yang sesuai dari OpenCode, LLM Fit,
00:03:46dan Deep Research milik Alibaba. Ini hanyalah penggabungan komponen secara terampil, bukan penemuan dari awal,
00:03:52dan sejujurnya, memang tidak perlu begitu. Hal ini memunculkan pertanyaan yang ditanyakan persis oleh Hacker News.
00:03:58Mengapa tidak menggunakan OpenWebUI saja? Pertanyaan yang sangat wajar. OpenWebUI dan LibreChat telah dikembangkan bertahun-tahun dengan rilis
00:04:05versi yang matang. Odysseus unggul dalam kelengkapan fitur. Tidak ada proyek lain yang menyediakan email, kalender, agen terjadwal,
00:04:11notifikasi push, dan pengelola model berbasis perangkat keras dalam satu paket. Ada juga masalah lisensi,
00:04:17Lisensi OpenWebUI tidak mengizinkan Anda menghapus merek mereka, yang menurut Hacker News membuat proyek itu tidak sepenuhnya
00:04:23sumber terbuka. Odysseus menggunakan lisensi murni AGPL. Namun jika Anda hanya membutuhkan obrolan dan RAG,
00:04:30gunakan saja alat yang lain. Tidak ada perdebatan soal itu. Sekarang, bagian yang benar-benar perlu Anda dengar,
00:04:34karena saya sama sekali tidak mempromosikan proyek ini, isu teratas menyatakan “Apa yang sebenarnya terjadi di sini?”
00:04:41Isu tersebut menjelaskan 800 pull request yang digabungkan berisi kode berkualitas rendah buatan LLM, berkas CSS sepanjang 30.000 baris, JavaScript acak,
00:04:49dan saat ini, hampir 900 PR masih terbuka, banyak yang ditulis oleh AI, dan sisanya dikirimkan oleh para penggemar.
00:04:56Sama sekali tidak ada rilis bertag. Nol. Anda menjalankan cabang dev yang terus berubah, dependensi tanpa versi pasti,
00:05:03pasang hari ini, dan besok Anda bisa mendapatkan dua aplikasi yang berbeda. Jumlah bintang sebagian berasal dari penggemar,
00:05:07tentu saja. Dia memiliki 110 juta pelanggan, tetapi jumlah bintang bukan penanda kualitas kode. Dan bacalah panduan ancaman keamanan
00:05:14milik proyek ini sendiri. Agen mendapatkan akses shell, akses berkas, dan kemampuan mengirim email. Menurut mereka sendiri,
00:05:21perlakukan ini seperti konsol admin. Jangan pernah membukanya ke internet publik. Ada masalah khusus Mac pada Docker,
00:05:27inferensi hanya berjalan di CPU, karena Docker di macOS tidak dapat mengakses GPU secara langsung. Jadi,
00:05:32kesimpulan saya terbagi dua. Sebagai tempat eksperimen lokal, proyek ini menarik. Namun untuk kebutuhan produksi, sama sekali tidak direkomendasikan.
00:05:39Dan tidak masalah jika proyek ini memiliki dua sisi tersebut. Namun inilah yang dilewatkan oleh orang-orang yang menganggapnya sekadar kode berkualitas rendah. Lebih dari 300 orang
00:05:45telah berkontribusi pada proyek ini sekarang. Komunitas mengusulkan berkas pemilik kode dan menulis usulan reformasi
00:05:52arsitektur secara menyeluruh yang mendapat lebih dari 100 komentar. Dan dua hari lalu, repositori ini dipindahkan ke organisasi GitHub miliknya sendiri.
00:05:59Proyek ini memang berantakan, ramai, tidak konsisten, tetapi jauh lebih hidup daripada hampir semua proyek yang pernah saya lihat belakangan ini. Jadi,
00:06:05inilah kesimpulan saya. Ini bukan tentang kodenya. Kodenya sejujurnya adalah hal yang paling tidak penting di dalam
00:06:09repositori tersebut. Yang terpenting adalah 110 juta orang baru saja melihat seseorang yang mereka percayai berkata bahwa Anda bisa menjalankan
00:06:15AI sendiri di komputer Anda sendiri dan memiliki data Anda sendiri. Menjalankan AI secara lokal mulai menjadi tren utama,
00:06:20tetapi itu tidak selalu berarti kita harus langsung mempercayainya. Jika Anda menyukai tips dan trik pemrograman seperti ini,
00:06:24pastikan untuk berlangganan saluran BetterStack. Sampai jumpa di video berikutnya.