Ich habe das selbstgehostete NotebookLM gefunden, das sich Entwickler wirklich wünschen (Open-Notebook)

Deutschالعربية English Español Français हिन्दी Bahasa Indonesia 日本語 한국어 Português Русский 中文

Computing/SoftwareSmall Business/StartupsInternet Technology

Transcript

00:00:00Notebook LM, es ist fantastisch.

00:00:02Du lädst ein Papier hoch, ein Dokument, vielleicht sogar eine Codebasis,

00:00:05und jetzt kannst du damit chatten und es zusammenfassen.

00:00:08Aber dann gibt es den Teil, über den niemand gerne spricht.

00:00:10Du musst immer noch all das Zeug zu Google hochladen.

00:00:14Das ist Open Notebook.

00:00:15Es hat über 27.000 Sterne auf GitHub.

00:00:18Es ist selbst gehostet und stellt eine sehr einfache Frage.

00:00:22Was wäre, wenn du die Notebook LM-Erfahrung haben könntest,

00:00:24aber mit Kontrolle auf Entwicklerebene?

00:00:26Heute werde ich es starten, den Workflow testen,

00:00:29es mit Notebook LM und anything LLM vergleichen

00:00:32und die eigentliche Frage beantworten.

00:00:34Ist das wirklich nützlich für Entwickler,

00:00:36oder ist es nur ein weiterer KI-Wrapper?

00:00:43Open Notebook ist eine privatsphärenorientierte,

00:00:45selbst gehostete Alternative zu Notebook LM,

00:00:47aber das untertreibt es ein wenig,

00:00:49denn dies ist nicht nur Notebook LM, sondern Open Source.

00:00:53Es bietet dir einen Forschungsarbeitsbereich im Notebook LM-Stil,

00:00:57Unterstützung für mehrere Modelle, Podcast-Generierung, Local-First-Optionen,

00:01:01und eine REST-API, auf der du tatsächlich aufbauen kannst.

00:01:04Und das ist der Teil, der viele Leute tatsächlich interessiert.

00:01:07Die meisten schauen sich das an und denken eine Sache.

00:01:09Cool, ich kann einen KI-Podcast aus PDFs machen.

00:01:12Bravo.

00:01:14Entwickler betrachten es und denken etwas leicht anderes.

00:01:16Kann ich das in meinen Workflow einbinden?

00:01:19Das ist eine echte Frage.

00:01:20Kann ich lokale Modelle damit verwenden?

00:01:22Kann ich Zusammenfassungen der Forschung automatisieren?

00:01:25Und die Beantwortung all dieser Fragen

00:01:26ist es, wo Open Notebook interessant wird.

00:01:28Du bist nicht an Gemini gebunden.

00:01:30Du kannst verschiedene Anbieter nutzen,

00:01:32einschließlich lokaler Modelle über Ollama.

00:01:34Du kannst es selbst hosten.

00:01:35Du kannst die Podcast-Erfahrung anpassen

00:01:37mit verschiedenen Sprecherprofilen.

00:01:39Und weil es eine API gibt,

00:01:41kann dies Teil deines Stacks werden.

00:01:43Nicht nur ein weiterer Tab in deinem Browser.

00:01:45Wenn du Coding-Tools magst, die deinen Workflow beschleunigen,

00:01:48abonniere uns.

00:01:49Wir veröffentlichen ständig Videos.

00:01:51Alles klar, lass es uns wirklich ausführen,

00:01:52damit du es in Aktion sehen kannst.

00:01:55Open Notebook ist Docker-first.

00:01:57Das ist fantastisch.

00:01:58Wenn du dich also bereits mit Containern wohlfühlst,

00:02:00ist das wirklich vertrautes Terrain.

00:02:02Führe das Compose-Setup aus,

00:02:04warte darauf, dass die Dienste hochfahren,

00:02:06und öffne dann die App in deinem Browser.

00:02:08Jetzt, da es läuft, können wir ein neues Notizbuch erstellen.

00:02:10Stell dir ein Notizbuch wie einen projektspezifischen Forschungsarbeitsbereich vor.

00:02:13Anstatt alles in einen riesigen KI-Chat zu werfen,

00:02:17kannst du die Dinge trennen.

00:02:19Ein Notizbuch für Codebasen,

00:02:21eines für Projektforschung,

00:02:22eines für akademische Papiere,

00:02:24interne Dokumente,

00:02:25all das Zeug.

00:02:26Jetzt können wir unsere Quellen hinzufügen.

00:02:29Das könnten Dinge sein wie ein PDF,

00:02:31eine Readme,

00:02:31Dokumentation,

00:02:32ein Forschungspapier,

00:02:33oder wirklich alles, was das System

00:02:35tatsächlich analysieren soll.

00:02:37Und das wichtige Wort ist da Quelle,

00:02:39denn das Ziel ist nicht nur ein allgemeiner KI-Chat.

00:02:43Das Ziel sind fundierte Antworten basierend auf dem Material, das du ihm gibst.

00:02:48Also lass uns jetzt eine technischere Frage stellen.

00:02:51Vielleicht kann ich etwas in der Art fragen:

00:02:53Was sind die Hauptkomponenten dieses Projekts,

00:02:55und was müsste ich ändern, wenn ich es erweitern will?

00:02:58Es macht gerade sein Ding.

00:03:00Das ist die grundlegende Notebook LM-Erfahrung.

00:03:03Wir fügen Quellen hinzu,

00:03:04du stellst Fragen,

00:03:04du erhältst Antworten, die auf diesen Quellen basieren.

00:03:07Aber hier ist die Hauptsache.

00:03:08Hier hört es auf, sich wie ein Klon von etwas zu fühlen,

00:03:11und beginnt sich entwicklerfreundlicher zu fühlen,

00:03:13eher wie etwas, das vielleicht für sich steht.

00:03:15Du kannst wählen, welchen Modellanbieter du verwenden möchtest,

00:03:18und wir sind nicht an diesen Anbieter gebunden, wie Gemini,

00:03:20wie ich sagte.

00:03:21Gehostete Modelle,

00:03:22absolut in Ordnung.

00:03:24Lokale Modelle,

00:03:25ebenfalls absolut in Ordnung.

00:03:27Du kannst den Kompromiss wählen

00:03:28zwischen Qualität,

00:03:29Geschwindigkeit,

00:03:30Kosten,

00:03:30und Privatsphäre.

00:03:31Und dann gibt es die Funktion,

00:03:32die die meisten von uns zuerst anklicken werden,

00:03:34den Podcast-Generator.

00:03:36Notebook LM hat KI-Podcasts

00:03:38tatsächlich ziemlich cool gemacht.

00:03:40Wenn du noch nicht damit gespielt hast,

00:03:41vielleicht solltest du das tun.

00:03:42Wenn ich es hier ausführe,

00:03:44nun,

00:03:44passiert etwas anderes.

00:03:46Hör zu.

00:03:46Es ist ein Wendepunkt für Forscher,

00:03:48die nach Autonomie und Privatsphäre suchen.

00:03:50Absolut, Alex.

00:03:52Ich denke, einer der coolsten Aspekte von Ollama.

00:03:54Cool, oder?

00:03:55Aber Open Notebook gibt dir mehr Kontrolle

00:03:57über dieses Format.

00:03:58Du kannst Podcasts

00:04:00aus deinen Quellen generieren,

00:04:01die Struktur konfigurieren,

00:04:02und mehrere Sprecherprofile verwenden,

00:04:04anstatt bei einem

00:04:05festen Stil festzustecken.

00:04:07Anstatt also generische

00:04:08KI-Moderatoren zu erhalten,

00:04:10die ein PDF erklären,

00:04:11kannst du etwas Spezifischeres

00:04:12erstellen.

00:04:14Du könntest so etwas sagen wie

00:04:15ein Produktmanager

00:04:16und ein Backend-Entwickler

00:04:17diskutieren über ein Architektur-Dokument.

00:04:19Und das klingt klein,

00:04:20bis du es für etwas benutzt,

00:04:22das ehrlich gesagt schmerzhaft ist.

00:04:24Ein langes RFC,

00:04:25ein dichtes Whitepaper,

00:04:26eine langweilige API-Spezifikation,

00:04:28all das Zeug.

00:04:29Es ist eine Möglichkeit, trockene Informationen

00:04:30einfach leichter verdaulich zu machen.

00:04:32Lass uns das jetzt vergleichen

00:04:33mit den Tools, die wir bereits kennen

00:04:35und die da draußen sind.

00:04:36Lass uns mit Google Notebook LM beginnen.

00:04:39Notebook LM ist großartig.

00:04:40Es ist einfach.

00:04:41Es funktioniert wirklich gut.

00:04:41Und für viele von uns

00:04:43ist das ehrlich gesagt wahrscheinlich genug.

00:04:45Aber der Kompromiss dahinter

00:04:46ist die Kontrolle.

00:04:48Open Notebook bietet dir

00:04:49Selbsthosting,

00:04:50Unterstützung für mehrere Modelle,

00:04:51lokale Modelloptionen,

00:04:52anpassbare Podcasts,

00:04:54und API-Zugriff.

00:04:55Wenn du also

00:04:56mit sensiblen Dokumenten,

00:04:58privater Forschung,

00:04:59oder internem Material arbeitest,

00:05:01hat Open Notebook

00:05:01die stärkere Geschichte zur Privatsphäre.

00:05:04Nun, hier ist der Haken bei all dem.

00:05:06Ist Open Notebook so reibungslos

00:05:07wie Notebook LM?

00:05:08Nein, nicht immer.

00:05:10Notebook LM hat den Vorteil,

00:05:12ein poliertes Produkt zu sein.

00:05:15Es ist von Google, oder?

00:05:16Open Notebook ist flexibler,

00:05:17aber es fühlt sich immer noch an wie

00:05:18ein entwicklerorientiertes Open-Source-Projekt.

00:05:20Das ist kein Deal-Breaker.

00:05:22Es bedeutet nur, du solltest wissen,

00:05:23was du eigentlich wählst.

00:05:24Nun, vergleiche es mit anything LLM.

00:05:27Ehrlich gesagt, das ist ein wirklich cooles Tool.

00:05:30Anything LLM ist auch beliebt

00:05:31im Bereich der selbst gehosteten KI,

00:05:33aber es gewinnt auf eine andere Art.

00:05:35Es ist einfacher damit zu starten.

00:05:37Es hat eine Desktop-App.

00:05:38Es hat No-Code-Agenten-Workflows.

00:05:40Das ist großartig.

00:05:41Für einen nicht-technischen Benutzer

00:05:42könnte das der erste Schritt sein.

00:05:44Aber Open Notebook fühlt sich fokussierter an

00:05:46auf die Forschungserfahrung

00:05:48im Stil von Notebook LM.

00:05:50Lass uns jetzt ehrlich sein

00:05:50darüber, was Leute mögen

00:05:51und worüber sich die Leute

00:05:52tatsächlich beschweren.

00:05:53Der große Gewinn hier

00:05:54wird die Privatsphäre sein.

00:05:56Wenn deine Arbeit sensible Dokumente,

00:05:58privaten Code, Kundenforschung,

00:06:00oder alles beinhaltet, bei dem du zögern würdest,

00:06:02es auf ein gehostetes KI-Tool hochzuladen,

00:06:04dann ist Self-Hosting hier wirklich wichtig.

00:06:06Das ist der Hauptgrund,

00:06:07warum Open Notebook

00:06:08überhaupt existiert.

00:06:10Dann gibt es die Modellflexibilität.

00:06:12Sie sind nicht an einen Anbieter gebunden.

00:06:14Ja, ich kann wählen, welche ich will.

00:06:16Ein riesiger Gewinn.

00:06:17Das bedeutet, wir können wählen,

00:06:19was wir brauchen,

00:06:19basierend auf dem, woran wir arbeiten,

00:06:21aber es schafft auch ein neues Problem.

00:06:24Man muss eine Wahl treffen.

00:06:25Wir haben auch die Podcast-Anpassung.

00:06:28Ausprobiert bei einer riesigen Projektspezifikation,

00:06:29einer komplexen API, Docker,

00:06:31einem langen Forschungspapier,

00:06:32und es ergibt tatsächlich Sinn.

00:06:33Schließlich ist die API eine große Sache

00:06:35für viele von uns.

00:06:36Man kann sich Workflows vorstellen,

00:06:38wie das Erstellen von Forschungsbriefings

00:06:40aus GitHub-Issues

00:06:41oder das Senden von Ergebnissen

00:06:43an Slack, Linear oder Notion.

00:06:45Großartig.

00:06:46Nun, das Schlechte daran,

00:06:48oder vielleicht die Dinge,

00:06:49die uns anfangs nicht so gefallen,

00:06:50die Einrichtung ist Docker-basiert.

00:06:52Für die meisten von uns ist das ehrlich gesagt in Ordnung.

00:06:54Für alle anderen

00:06:55ist das vielleicht eine Hürde.

00:06:56Das ist noch nicht das “Eine App herunterladen

00:06:59und alles funktioniert einfach”-Erlebnis.

00:07:00Zweitens ist es noch ein neueres Projekt,

00:07:03also müssen manche Dinge noch nachziehen.

00:07:05Und die Qualität hängt dann

00:07:06von Ihren Modellen und Ihrem Setup ab.

00:07:08Also ist die ehrliche Meinung dazu

00:07:10eigentlich recht simpel.

00:07:11Open Notebook ist nicht perfekt.

00:07:12Aber andererseits ist kein Tool perfekt.

00:07:14Deshalb haben wir

00:07:14all diese verschiedenen Tools.

00:07:16Aber die Richtung, in die es geht,

00:07:17ist sehr gut.

00:07:18Es ist nicht für jeden etwas,

00:07:19aber probieren Sie es aus,

00:07:20wenn Sie ein selbstgehostetes

00:07:21Forschungs-Backend wollen,

00:07:23wenn Sie Dokumente haben,

00:07:23die Sie nicht einfach bei Google hochladen möchten,

00:07:25oder wenn Sie eigene Workflows

00:07:27auf Basis der API aufbauen wollen.

00:07:30Der Stack beinhaltet

00:07:31modernes Frontend,

00:07:32ein Python-Backend,

00:07:33SurrealDB

00:07:34und eine KI-Abstraktionsschicht,

00:07:35die für verschiedene Anbieter konzipiert ist.

00:07:37So fühlt es sich an wie etwas,

00:07:39das man tatsächlich erweitern kann,

00:07:41nicht nur etwas, das wir einfach nutzen.

00:07:42Wenn Sie Spaß an Coding-Tools wie diesem haben,

00:07:44abonnieren Sie unbedingt

00:07:45den Better-Stack-Kanal.

00:07:46Wir sehen uns im nächsten Video.

Key Takeaway

Open Notebook bietet Entwicklern eine voll kontrollierbare, lokal hostbare Alternative zu NotebookLM, die durch Modellflexibilität, API-Zugriff und gesteigerten Datenschutz bei der Analyse sensibler Dokumente überzeugt.

Highlights

Open Notebook ist eine selbstgehostete, datenschutzorientierte Open-Source-Alternative zu NotebookLM mit über 27.000 Sternen auf GitHub.
Das System nutzt Docker für das Setup und bietet eine REST-API zur Integration in bestehende Entwickler-Workflows.
Im Gegensatz zu Google NotebookLM ermöglicht Open Notebook die Nutzung lokaler Modelle über Ollama, um die Wahl zwischen Qualität, Geschwindigkeit und Privatsphäre zu treffen.
Der integrierte Podcast-Generator erlaubt die Anpassung von Sprecherprofilen für die Zusammenfassung technischer Dokumentationen oder RFCs.
Die technische Architektur von Open Notebook umfasst ein modernes Frontend, ein Python-Backend und SurrealDB.

Timeline

Funktionsweise und Zielgruppe

Open Notebook ermöglicht die Analyse von Dokumenten und Codebasen in einer privaten Forschungsumgebung.
Entwickler nutzen das Tool zur Automatisierung von Forschungszusammenfassungen innerhalb ihres eigenen Stacks.

Die Anwendung adressiert das Problem, dass herkömmliche Tools wie NotebookLM das Hochladen sensibler Daten an Google erfordern. Open Notebook stellt eine Lösung dar, die dem Nutzer die volle Kontrolle auf Entwicklerebene bietet. Es dient als Forschungsarbeitsbereich, in dem Projekte wie akademische Papiere oder Codebasen voneinander getrennt analysiert werden können.

Technische Umsetzung und Flexibilität

Die Bereitstellung erfolgt primär über Docker, was die Handhabung für Entwickler vereinfacht.
Anwender sind nicht an einen einzelnen KI-Anbieter gebunden und können lokale Modelle via Ollama einbinden.

Der Workflow beginnt mit dem Starten des Docker-Compose-Setups. Danach können spezifische Quellen wie PDFs, Readmes oder API-Dokumentationen hinzugefügt werden, um fundierte Antworten zu generieren. Die Architektur erlaubt es, zwischen verschiedenen Modellen zu wählen, um den individuellen Kompromiss zwischen Performance und Datenschutz zu finden.

Podcast-Generierung und Workflow-Integration

Die Podcast-Funktion unterstützt anpassbare Sprecherprofile für die Vertonung trockener technischer Spezifikationen.
Eine REST-API ermöglicht die Anbindung an Tools wie Slack, Linear oder Notion.

Die Podcast-Generierung geht über simple KI-Monologe hinaus, indem spezifische Rollen wie Produktmanager oder Backend-Entwickler konfiguriert werden können. Dies macht komplexe Dokumente wie Whitepaper oder API-Spezifikationen deutlich leichter verdaulich. Durch die API wird das Tool von einem reinen Browser-Tab zu einem integrierten Bestandteil des täglichen Workflows.

Vergleich und Fazit

Im Vergleich zu anythingLLM ist Open Notebook stärker auf die spezifische Forschungserfahrung fokussiert.
Das Projekt erfordert durch die Docker-Basis eine gewisse technische Lernkurve, bietet dafür jedoch volle Datensouveränität.

Während NotebookLM durch einfache Handhabung und Google-Infrastruktur besticht, bietet Open Notebook entscheidende Vorteile bei der Privatsphäre und der Modellwahl. Obwohl es sich noch um ein junges Open-Source-Projekt handelt, machen die Architektur und die Erweiterbarkeit es zu einer sinnvollen Wahl für sensible Projekte und automatisierte Recherche-Workflows.

Community Posts

No posts yet. Be the first to write about this video!

Write about this video