Saya Menemukan NotebookLM Self-Hosted yang Benar-benar Diinginkan Developer (Open-Notebook)

BBetter Stack
Computing/SoftwareSmall Business/StartupsInternet Technology

Transcript

00:00:00Notebook LM, sungguh luar biasa.
00:00:02Anda mengunggah makalah, dokumen, bahkan mungkin basis kode,
00:00:05dan sekarang Anda bisa mengobrol dengannya serta meringkasnya.
00:00:08Namun ada bagian yang tak seorang pun suka membicarakannya.
00:00:10Anda tetap harus mengunggah semua itu ke Google.
00:00:14Ini adalah Open Notebook.
00:00:15Proyek ini memiliki lebih dari 27.000 bintang di GitHub.
00:00:18Sifatnya di-host sendiri, dan mengajukan pertanyaan yang sangat sederhana.
00:00:22Bagaimana jika Anda bisa mendapatkan pengalaman Notebook LM,
00:00:24namun dengan kendali tingkat pengembang?
00:00:26Hari ini, saya akan mencobanya, menguji alur kerjanya,
00:00:29membandingkannya dengan Notebook LM dan AnythingLLM,
00:00:32serta menjawab pertanyaan yang sebenarnya.
00:00:34Apakah ini benar-benar berguna bagi pengembang,
00:00:36atau hanya sekadar AI wrapper lain?
00:00:43Open Notebook adalah alternatif yang mengutamakan privasi,
00:00:45di-host sendiri, pengganti Notebook LM,
00:00:47tetapi itu sedikit meremehkannya,
00:00:49karena ini bukan sekadar Notebook LM, melainkan open source.
00:00:53Ini memberi Anda ruang kerja riset bergaya Notebook LM,
00:00:57dukungan multi-model, pembuatan podcast, opsi lokal-pertama,
00:01:01dan REST API yang benar-benar bisa Anda bangun di atasnya.
00:01:04Dan itulah bagian yang benar-benar dipedulikan banyak orang.
00:01:07Kebanyakan orang melihat ini dan memikirkan satu hal.
00:01:09Keren, saya bisa membuat podcast AI dari PDF.
00:01:12Bagus.
00:01:14Para pengembang melihatnya dan berpikir sedikit berbeda.
00:01:16Bisakah saya memasukkan ini ke alur kerja saya?
00:01:19Itu satu pertanyaan nyata.
00:01:20Bisakah saya menggunakan model lokal dengannya?
00:01:22Bisakah saya mengotomatiskan ringkasan riset?
00:01:25Dan menjawab semua pertanyaan itu
00:01:26adalah hal yang membuat Open Notebook menarik.
00:01:28Anda tidak terkunci pada Gemini.
00:01:30Anda bisa menggunakan penyedia yang berbeda,
00:01:32termasuk model lokal melalui Ollama.
00:01:34Anda bisa men-host-nya sendiri.
00:01:35Anda bisa menyesuaikan pengalaman podcast
00:01:37dengan profil pembicara yang berbeda.
00:01:39Dan karena ada API,
00:01:41ini bisa menjadi bagian dari tumpukan teknologi Anda.
00:01:43Bukan sekadar tab lain di browser Anda.
00:01:45Jika Anda menikmati alat pengodean yang mempercepat alur kerja Anda,
00:01:48pastikan untuk berlangganan.
00:01:49Kami selalu merilis video setiap saat.
00:01:51Baiklah, mari kita jalankan ini
00:01:52agar Anda bisa melihatnya beraksi.
00:01:55Open Notebook adalah Docker-first.
00:01:57Itu luar biasa.
00:01:58Jadi jika Anda sudah terbiasa dengan kontainer,
00:02:00ini adalah wilayah yang sangat familier.
00:02:02Jalankan pengaturan Compose,
00:02:04tunggu layanan berjalan,
00:02:06lalu buka aplikasi di browser Anda.
00:02:08Sekarang setelah berjalan, kita bisa membuat notebook baru.
00:02:10Anggap notebook seperti ruang kerja riset spesifik proyek.
00:02:13Alih-alih membuang semuanya ke dalam satu obrolan AI raksasa,
00:02:17Anda bisa memisahkan segalanya.
00:02:19Satu notebook untuk basis kode,
00:02:21satu untuk riset proyek,
00:02:22satu untuk makalah akademik,
00:02:24dokumen internal,
00:02:25semua hal itu.
00:02:26Sekarang kita bisa menambahkan sumber kita.
00:02:29Ini bisa berupa PDF,
00:02:31readme,
00:02:31dokumentasi,
00:02:32makalah riset,
00:02:33atau benar-benar apa pun yang Anda inginkan
00:02:35untuk benar-benar diproses oleh sistem.
00:02:37Dan kata penting di sana adalah sumber,
00:02:39karena tujuannya bukan sekadar obrolan AI umum.
00:02:43Tujuannya adalah jawaban yang berdasar pada materi yang Anda berikan.
00:02:48Jadi mari kita ajukan pertanyaan yang lebih teknis di sini.
00:02:51Mungkin saya bisa bertanya seperti,
00:02:53apa komponen utama proyek ini,
00:02:55dan apa yang perlu saya ubah jika ingin memperluasnya?
00:02:58Sistem sedang bekerja.
00:03:00Ini adalah pengalaman dasar ala Notebook LM.
00:03:03Kita tambahkan sumber,
00:03:04Anda ajukan pertanyaan,
00:03:04Anda mendapatkan jawaban yang berdasar pada sumber tersebut.
00:03:07Namun inilah hal utamanya.
00:03:08Di sinilah ia berhenti terasa seperti tiruan sesuatu
00:03:11dan mulai terasa lebih ramah-pengembang,
00:03:13lebih sebagai sesuatu yang mungkin berdiri sendiri.
00:03:15Anda bisa memilih penyedia model mana yang ingin digunakan,
00:03:18dan kita tidak terkunci pada vendor seperti Gemini,
00:03:20seperti yang saya katakan.
00:03:21Model yang di-host,
00:03:22tentu saja tidak masalah.
00:03:24Model lokal,
00:03:25juga tentu saja tidak masalah.
00:03:27Anda bisa memilih pertukaran
00:03:28antara kualitas,
00:03:29kecepatan,
00:03:30biaya,
00:03:30dan privasi.
00:03:31Dan kemudian ada fitur
00:03:32yang kebanyakan dari kita akan klik pertama kali,
00:03:34generator podcast.
00:03:36Notebook LM membuat podcast AI
00:03:38terasa cukup keren.
00:03:40Jika Anda belum mencobanya,
00:03:41mungkin Anda harus.
00:03:42Jika saya menjalankannya di sini,
00:03:44nah,
00:03:44ada hal lain yang terjadi.
00:03:46Coba dengarkan.
00:03:46Ini adalah pengubah permainan bagi peneliti
00:03:48yang mencari otonomi dan privasi.
00:03:50Tentu saja, Alex.
00:03:52Saya rasa salah satu aspek paling keren dari Ollama.
00:03:54Keren, bukan?
00:03:55Tetapi Open Notebook memberi Anda kontrol lebih besar
00:03:57atas format tersebut.
00:03:58Anda bisa membuat podcast
00:04:00dari sumber Anda,
00:04:01mengonfigurasi strukturnya,
00:04:02dan menggunakan beberapa profil pembicara
00:04:04alih-alih terjebak
00:04:05dengan satu gaya yang tetap.
00:04:07Jadi alih-alih mendapatkan
00:04:08pemandu AI generik
00:04:10yang menjelaskan PDF,
00:04:11Anda bisa membuat sesuatu
00:04:12yang lebih spesifik.
00:04:14Anda bisa mengatakan sesuatu seperti
00:04:15manajer produk
00:04:16dan pengembang backend
00:04:17mendebatkan dokumen arsitektur.
00:04:19Dan itu terdengar kecil
00:04:20sampai Anda menggunakannya pada sesuatu
00:04:22yang sejujurnya menyakitkan.
00:04:24RFC yang panjang,
00:04:25white paper yang padat,
00:04:26spesifikasi API yang membosankan,
00:04:28semua hal itu.
00:04:29Ini adalah cara untuk membuat informasi yang kering
00:04:30menjadi lebih mudah dikonsumsi.
00:04:32Nah, mari kita bandingkan
00:04:33dengan alat yang sudah kita kenal
00:04:35yang ada di luar sana.
00:04:36Mari kita mulai dengan Google Notebook LM.
00:04:39Notebook LM hebat.
00:04:40Itu mudah.
00:04:41Ia bekerja dengan sangat baik.
00:04:41Dan bagi banyak dari kita,
00:04:43sejujurnya, itu mungkin sudah cukup.
00:04:45Namun pertukaran di balik semua itu
00:04:46adalah kendali.
00:04:48Open Notebook memberi Anda
00:04:49hosting mandiri,
00:04:50dukungan multi-model,
00:04:51opsi model lokal,
00:04:52podcast yang dapat disesuaikan,
00:04:54dan akses API.
00:04:55Jadi jika Anda bekerja
00:04:56dengan dokumen sensitif,
00:04:58riset pribadi,
00:04:59atau materi internal,
00:05:01Open Notebook memiliki
00:05:01cerita privasi yang lebih kuat di sini.
00:05:04Nah, inilah tangkapan dari semua itu.
00:05:06Apakah Open Notebook semulus
00:05:07Notebook LM?
00:05:08Tidak, tidak selalu.
00:05:10Notebook LM memiliki keuntungan
00:05:12sebagai produk yang dipoles.
00:05:15Itu dari Google, kan?
00:05:16Open Notebook lebih fleksibel,
00:05:17tetapi masih terasa seperti
00:05:18proyek open source berorientasi pengembang.
00:05:20Itu bukan masalah besar.
00:05:22Itu hanya berarti Anda harus tahu
00:05:23apa yang sebenarnya Anda pilih.
00:05:24Sekarang, bandingkan dengan AnythingLLM.
00:05:27Sejujurnya, itu adalah alat yang sangat keren.
00:05:30AnythingLLM juga populer
00:05:31di ruang AI yang di-host sendiri,
00:05:33tetapi ia menang dengan cara yang berbeda.
00:05:35Lebih mudah untuk memulai dengannya.
00:05:37Ia memiliki aplikasi desktop.
00:05:38Ia memiliki alur kerja agen tanpa kode.
00:05:40Itu bagus.
00:05:41Bagi pengguna non-teknis,
00:05:42itu mungkin langkah pertama.
00:05:44Tetapi Open Notebook terasa lebih fokus
00:05:46pada pengalaman riset
00:05:48ala Notebook LM.
00:05:50Sekarang, mari kita jujur
00:05:50tentang apa yang disukai orang
00:05:51dan apa yang sebenarnya
00:05:52dikeluhkan orang.
00:05:53Kemenangan besar di sini
00:05:54adalah privasi.
00:05:56Jika pekerjaan Anda melibatkan dokumen sensitif,
00:05:58kode pribadi, riset klien,
00:06:00atau apa pun yang Anda akan ragu
00:06:02untuk mengunggahnya ke alat AI yang di-host,
00:06:04maka self-hosting benar-benar penting di sini.
00:06:06Itulah alasan utama
00:06:07mengapa Open Notebook
00:06:08sebenarnya ada sejak awal.
00:06:10Lalu ada fleksibilitas model.
00:06:12Anda tidak dipaksa menggunakan satu penyedia.
00:06:14Ya, saya bisa memilih yang saya inginkan.
00:06:16Kemenangan besar.
00:06:17Itu berarti kita bisa memilih
00:06:19apa yang kita butuhkan
00:06:19berdasarkan apa yang sedang kita kerjakan,
00:06:21tapi itu juga menimbulkan masalah baru.
00:06:24Anda harus membuat pilihan.
00:06:25Kita juga memiliki kustomisasi podcast.
00:06:28Dicoba pada spesifikasi proyek yang besar,
00:06:29API yang padat, Docker,
00:06:31makalah penelitian yang panjang,
00:06:32dan itu mulai masuk akal.
00:06:33Terakhir, API adalah masalah besar
00:06:35bagi banyak dari kita.
00:06:36Anda bisa membayangkan alur kerja
00:06:38seperti membuat ringkasan penelitian
00:06:40dari masalah GitHub
00:06:41atau mengirim hasil
00:06:43ke Slack, Linear, atau Notion.
00:06:45Bagus.
00:06:46Sekarang, hal buruk tentang semua ini,
00:06:48atau mungkin hal-hal
00:06:49yang tidak begitu kita sukai pada awalnya,
00:06:50pengaturannya harus menggunakan Docker.
00:06:52Bagi kebanyakan dari kita, sejujurnya, itu tidak masalah.
00:06:54Bagi orang lain,
00:06:55mungkin itu sebuah hambatan.
00:06:56Ini belum seperti mengunduh satu aplikasi
00:06:59dan semuanya langsung berfungsi.
00:07:00Kedua, ini masih proyek baru,
00:07:03jadi ada beberapa hal yang masih harus diperbaiki.
00:07:05Dan kemudian kualitas bergantung
00:07:06pada model dan pengaturan Anda.
00:07:08Jadi, pendapat jujur di sini
00:07:10cukup sederhana.
00:07:11Open Notebook tidak sempurna.
00:07:12Namun, tidak ada alat yang sempurna.
00:07:14Itulah mengapa kita punya
00:07:14semua alat yang berbeda ini.
00:07:16Tapi arah perkembangannya
00:07:17sangat bagus.
00:07:18Ini tidak untuk semua orang,
00:07:19tapi cobalah
00:07:20jika Anda menginginkan backend
00:07:21penelitian yang di-host sendiri,
00:07:23jika Anda memiliki dokumen
00:07:23yang tidak ingin langsung diunggah ke Google,
00:07:25atau jika Anda ingin membangun
00:07:27alur kerja kustom di atas API.
00:07:30Stack-nya mencakup
00:07:31front-end modern,
00:07:32backend Python,
00:07:33SurrealDB,
00:07:34dan lapisan abstraksi AI
00:07:35yang dirancang untuk bekerja di berbagai penyedia.
00:07:37Jadi ini bisa terasa seperti sesuatu
00:07:39yang benar-benar bisa Anda kembangkan,
00:07:41bukan sekadar sesuatu yang kita gunakan.
00:07:42Jika Anda menikmati alat coding seperti ini,
00:07:44pastikan untuk berlangganan
00:07:45ke saluran Better Stack.
00:07:46Sampai jumpa di video lainnya.

Key Takeaway

Open Notebook menyediakan alternatif privasi-pertama bagi pengembang untuk melakukan riset berbasis dokumen dengan kontrol penuh atas model AI, kustomisasi podcast, dan integrasi API yang tidak dimiliki oleh solusi vendor tertutup seperti Notebook LM.

Highlights

  • Open Notebook adalah alternatif open-source untuk Notebook LM yang memungkinkan hosting mandiri melalui Docker.

  • Sistem ini mendukung penggunaan model AI lokal melalui Ollama serta penyedia model lain tanpa ketergantungan vendor.

  • Ruang kerja riset dalam Open Notebook memungkinkan pemisahan basis kode, makalah akademik, dan dokumen internal ke dalam notebook proyek yang berbeda.

  • Fitur generator podcast memungkinkan kustomisasi profil pembicara untuk mengubah dokumen teknis yang membosankan menjadi percakapan yang mudah dikonsumsi.

  • Adanya REST API memungkinkan pengembang mengintegrasikan alur kerja riset ke dalam alat seperti Slack, Linear, atau Notion.

  • Proyek ini dibangun di atas tumpukan teknologi yang mencakup front-end modern, backend Python, dan SurrealDB.

Timeline

Pengenalan dan Potensi Open Notebook

  • Open Notebook melampaui kemampuan Notebook LM dengan menyediakan akses open-source dan kendali tingkat pengembang.
  • Proyek ini memiliki lebih dari 27.000 bintang di GitHub dan menawarkan privasi data melalui hosting mandiri.
  • Pengguna tidak lagi terkunci pada satu penyedia AI seperti Gemini.

Notebook LM memerlukan unggahan data ke server Google, sebuah praktik yang dihindari oleh banyak pengembang saat menangani dokumen sensitif. Open Notebook hadir untuk mengatasi keterbatasan tersebut dengan menawarkan kendali penuh, dukungan multi-model, dan API yang dapat diintegrasikan ke dalam tumpukan teknologi pengguna.

Alur Kerja dan Pengaturan Teknis

  • Pengaturan sistem berbasis Docker untuk kemudahan penggunaan bagi pengembang.
  • Notebook berfungsi sebagai ruang kerja riset spesifik proyek untuk menghindari pencampuran data dalam satu obrolan raksasa.
  • Sistem memproses berbagai jenis file termasuk PDF, readme, dokumentasi, dan makalah riset.

Penggunaan Docker memungkinkan deployment yang familiar bagi pengembang. Struktur notebook yang terpisah memungkinkan pengelolaan konteks yang lebih bersih dibandingkan dengan satu antarmuka chat tunggal, sehingga jawaban AI lebih terfokus pada sumber materi yang spesifik diberikan oleh pengguna.

Kustomisasi Model dan Generator Podcast

  • Fleksibilitas pemilihan penyedia model termasuk penggunaan model lokal melalui Ollama.
  • Generator podcast memungkinkan kustomisasi profil pembicara untuk gaya penyampaian yang spesifik.
  • Teknik ini mengubah dokumen teknis yang sulit seperti spesifikasi API dan white paper menjadi format audio yang lebih mudah dipahami.

Pengguna dapat menyeimbangkan antara kecepatan, biaya, kualitas, dan privasi dengan memilih model yang tepat. Fitur podcast bukan sekadar fitur generik; pengguna dapat mengatur skenario seperti perdebatan antara manajer produk dan pengembang untuk membedah dokumen arsitektur yang kompleks.

Perbandingan dengan Alternatif Lain

  • Google Notebook LM menawarkan kemudahan penggunaan yang lebih baik namun mengorbankan privasi dan kontrol.
  • AnythingLLM lebih ramah bagi pengguna non-teknis dengan aplikasi desktop dan alur kerja tanpa kode.
  • Open Notebook menonjol bagi mereka yang memerlukan integrasi API untuk otomatisasi alur kerja.

Meskipun Notebook LM lebih halus secara antarmuka, Open Notebook lebih unggul dalam hal privasi untuk dokumen sensitif dan riset klien. Proyek ini masih dalam tahap pengembangan, sehingga memerlukan pengetahuan teknis lebih dibandingkan alat yang sudah matang, namun arah perkembangannya memungkinkan pengembang untuk membangun solusi di atas API yang disediakan.

Community Posts

No posts yet. Be the first to write about this video!

Write about this video