Ich habe das selbstgehostete NotebookLM gefunden, das sich Entwickler wirklich wünschen (Open-Notebook)
BBetter Stack
컴퓨터/소프트웨어창업/스타트업AI/미래기술
Transcript
00:00:00Notebook LM, es ist fantastisch.
00:00:02Du lädst ein Papier hoch, ein Dokument, vielleicht sogar eine Codebasis,
00:00:05und jetzt kannst du damit chatten und es zusammenfassen.
00:00:08Aber dann gibt es den Teil, über den niemand gerne spricht.
00:00:10Du musst immer noch all das Zeug zu Google hochladen.
00:00:14Das ist Open Notebook.
00:00:15Es hat über 27.000 Sterne auf GitHub.
00:00:18Es ist selbst gehostet und stellt eine sehr einfache Frage.
00:00:22Was wäre, wenn du die Notebook LM-Erfahrung haben könntest,
00:00:24aber mit Kontrolle auf Entwicklerebene?
00:00:26Heute werde ich es starten, den Workflow testen,
00:00:29es mit Notebook LM und anything LLM vergleichen
00:00:32und die eigentliche Frage beantworten.
00:00:34Ist das wirklich nützlich für Entwickler,
00:00:36oder ist es nur ein weiterer KI-Wrapper?
00:00:43Open Notebook ist eine privatsphärenorientierte,
00:00:45selbst gehostete Alternative zu Notebook LM,
00:00:47aber das untertreibt es ein wenig,
00:00:49denn dies ist nicht nur Notebook LM, sondern Open Source.
00:00:53Es bietet dir einen Forschungsarbeitsbereich im Notebook LM-Stil,
00:00:57Unterstützung für mehrere Modelle, Podcast-Generierung, Local-First-Optionen,
00:01:01und eine REST-API, auf der du tatsächlich aufbauen kannst.
00:01:04Und das ist der Teil, der viele Leute tatsächlich interessiert.
00:01:07Die meisten schauen sich das an und denken eine Sache.
00:01:09Cool, ich kann einen KI-Podcast aus PDFs machen.
00:01:12Bravo.
00:01:14Entwickler betrachten es und denken etwas leicht anderes.
00:01:16Kann ich das in meinen Workflow einbinden?
00:01:19Das ist eine echte Frage.
00:01:20Kann ich lokale Modelle damit verwenden?
00:01:22Kann ich Zusammenfassungen der Forschung automatisieren?
00:01:25Und die Beantwortung all dieser Fragen
00:01:26ist es, wo Open Notebook interessant wird.
00:01:28Du bist nicht an Gemini gebunden.
00:01:30Du kannst verschiedene Anbieter nutzen,
00:01:32einschließlich lokaler Modelle über Ollama.
00:01:34Du kannst es selbst hosten.
00:01:35Du kannst die Podcast-Erfahrung anpassen
00:01:37mit verschiedenen Sprecherprofilen.
00:01:39Und weil es eine API gibt,
00:01:41kann dies Teil deines Stacks werden.
00:01:43Nicht nur ein weiterer Tab in deinem Browser.
00:01:45Wenn du Coding-Tools magst, die deinen Workflow beschleunigen,
00:01:48abonniere uns.
00:01:49Wir veröffentlichen ständig Videos.
00:01:51Alles klar, lass es uns wirklich ausführen,
00:01:52damit du es in Aktion sehen kannst.
00:01:55Open Notebook ist Docker-first.
00:01:57Das ist fantastisch.
00:01:58Wenn du dich also bereits mit Containern wohlfühlst,
00:02:00ist das wirklich vertrautes Terrain.
00:02:02Führe das Compose-Setup aus,
00:02:04warte darauf, dass die Dienste hochfahren,
00:02:06und öffne dann die App in deinem Browser.
00:02:08Jetzt, da es läuft, können wir ein neues Notizbuch erstellen.
00:02:10Stell dir ein Notizbuch wie einen projektspezifischen Forschungsarbeitsbereich vor.
00:02:13Anstatt alles in einen riesigen KI-Chat zu werfen,
00:02:17kannst du die Dinge trennen.
00:02:19Ein Notizbuch für Codebasen,
00:02:21eines für Projektforschung,
00:02:22eines für akademische Papiere,
00:02:24interne Dokumente,
00:02:25all das Zeug.
00:02:26Jetzt können wir unsere Quellen hinzufügen.
00:02:29Das könnten Dinge sein wie ein PDF,
00:02:31eine Readme,
00:02:31Dokumentation,
00:02:32ein Forschungspapier,
00:02:33oder wirklich alles, was das System
00:02:35tatsächlich analysieren soll.
00:02:37Und das wichtige Wort ist da Quelle,
00:02:39denn das Ziel ist nicht nur ein allgemeiner KI-Chat.
00:02:43Das Ziel sind fundierte Antworten basierend auf dem Material, das du ihm gibst.
00:02:48Also lass uns jetzt eine technischere Frage stellen.
00:02:51Vielleicht kann ich etwas in der Art fragen:
00:02:53Was sind die Hauptkomponenten dieses Projekts,
00:02:55und was müsste ich ändern, wenn ich es erweitern will?
00:02:58Es macht gerade sein Ding.
00:03:00Das ist die grundlegende Notebook LM-Erfahrung.
00:03:03Wir fügen Quellen hinzu,
00:03:04du stellst Fragen,
00:03:04du erhältst Antworten, die auf diesen Quellen basieren.
00:03:07Aber hier ist die Hauptsache.
00:03:08Hier hört es auf, sich wie ein Klon von etwas zu fühlen,
00:03:11und beginnt sich entwicklerfreundlicher zu fühlen,
00:03:13eher wie etwas, das vielleicht für sich steht.
00:03:15Du kannst wählen, welchen Modellanbieter du verwenden möchtest,
00:03:18und wir sind nicht an diesen Anbieter gebunden, wie Gemini,
00:03:20wie ich sagte.
00:03:21Gehostete Modelle,
00:03:22absolut in Ordnung.
00:03:24Lokale Modelle,
00:03:25ebenfalls absolut in Ordnung.
00:03:27Du kannst den Kompromiss wählen
00:03:28zwischen Qualität,
00:03:29Geschwindigkeit,
00:03:30Kosten,
00:03:30und Privatsphäre.
00:03:31Und dann gibt es die Funktion,
00:03:32die die meisten von uns zuerst anklicken werden,
00:03:34den Podcast-Generator.
00:03:36Notebook LM hat KI-Podcasts
00:03:38tatsächlich ziemlich cool gemacht.
00:03:40Wenn du noch nicht damit gespielt hast,
00:03:41vielleicht solltest du das tun.
00:03:42Wenn ich es hier ausführe,
00:03:44nun,
00:03:44passiert etwas anderes.
00:03:46Hör zu.
00:03:46Es ist ein Wendepunkt für Forscher,
00:03:48die nach Autonomie und Privatsphäre suchen.
00:03:50Absolut, Alex.
00:03:52Ich denke, einer der coolsten Aspekte von Ollama.
00:03:54Cool, oder?
00:03:55Aber Open Notebook gibt dir mehr Kontrolle
00:03:57über dieses Format.
00:03:58Du kannst Podcasts
00:04:00aus deinen Quellen generieren,
00:04:01die Struktur konfigurieren,
00:04:02und mehrere Sprecherprofile verwenden,
00:04:04anstatt bei einem
00:04:05festen Stil festzustecken.
00:04:07Anstatt also generische
00:04:08KI-Moderatoren zu erhalten,
00:04:10die ein PDF erklären,
00:04:11kannst du etwas Spezifischeres
00:04:12erstellen.
00:04:14Du könntest so etwas sagen wie
00:04:15ein Produktmanager
00:04:16und ein Backend-Entwickler
00:04:17diskutieren über ein Architektur-Dokument.
00:04:19Und das klingt klein,
00:04:20bis du es für etwas benutzt,
00:04:22das ehrlich gesagt schmerzhaft ist.
00:04:24Ein langes RFC,
00:04:25ein dichtes Whitepaper,
00:04:26eine langweilige API-Spezifikation,
00:04:28all das Zeug.
00:04:29Es ist eine Möglichkeit, trockene Informationen
00:04:30einfach leichter verdaulich zu machen.
00:04:32Lass uns das jetzt vergleichen
00:04:33mit den Tools, die wir bereits kennen
00:04:35und die da draußen sind.
00:04:36Lass uns mit Google Notebook LM beginnen.
00:04:39Notebook LM ist großartig.
00:04:40Es ist einfach.
00:04:41Es funktioniert wirklich gut.
00:04:41Und für viele von uns
00:04:43ist das ehrlich gesagt wahrscheinlich genug.
00:04:45Aber der Kompromiss dahinter
00:04:46ist die Kontrolle.
00:04:48Open Notebook bietet dir
00:04:49Selbsthosting,
00:04:50Unterstützung für mehrere Modelle,
00:04:51lokale Modelloptionen,
00:04:52anpassbare Podcasts,
00:04:54und API-Zugriff.
00:04:55Wenn du also
00:04:56mit sensiblen Dokumenten,
00:04:58privater Forschung,
00:04:59oder internem Material arbeitest,
00:05:01hat Open Notebook
00:05:01die stärkere Geschichte zur Privatsphäre.
00:05:04Nun, hier ist der Haken bei all dem.
00:05:06Ist Open Notebook so reibungslos
00:05:07wie Notebook LM?
00:05:08Nein, nicht immer.
00:05:10Notebook LM hat den Vorteil,
00:05:12ein poliertes Produkt zu sein.
00:05:15Es ist von Google, oder?
00:05:16Open Notebook ist flexibler,
00:05:17aber es fühlt sich immer noch an wie
00:05:18ein entwicklerorientiertes Open-Source-Projekt.
00:05:20Das ist kein Deal-Breaker.
00:05:22Es bedeutet nur, du solltest wissen,
00:05:23was du eigentlich wählst.
00:05:24Nun, vergleiche es mit anything LLM.
00:05:27Ehrlich gesagt, das ist ein wirklich cooles Tool.
00:05:30Anything LLM ist auch beliebt
00:05:31im Bereich der selbst gehosteten KI,
00:05:33aber es gewinnt auf eine andere Art.
00:05:35Es ist einfacher damit zu starten.
00:05:37Es hat eine Desktop-App.
00:05:38Es hat No-Code-Agenten-Workflows.
00:05:40Das ist großartig.
00:05:41Für einen nicht-technischen Benutzer
00:05:42könnte das der erste Schritt sein.
00:05:44Aber Open Notebook fühlt sich fokussierter an
00:05:46auf die Forschungserfahrung
00:05:48im Stil von Notebook LM.
00:05:50Lass uns jetzt ehrlich sein
00:05:50darüber, was Leute mögen
00:05:51und worüber sich die Leute
00:05:52tatsächlich beschweren.
00:05:53Der große Gewinn hier
00:05:54wird die Privatsphäre sein.
00:05:56Wenn deine Arbeit sensible Dokumente,
00:05:58privaten Code, Kundenforschung,
00:06:00oder alles beinhaltet, bei dem du zögern würdest,
00:06:02es auf ein gehostetes KI-Tool hochzuladen,
00:06:04dann ist Self-Hosting hier wirklich wichtig.
00:06:06Das ist der Hauptgrund,
00:06:07warum Open Notebook
00:06:08überhaupt existiert.
00:06:10Dann gibt es die Modellflexibilität.
00:06:12Sie sind nicht an einen Anbieter gebunden.
00:06:14Ja, ich kann wählen, welche ich will.
00:06:16Ein riesiger Gewinn.
00:06:17Das bedeutet, wir können wählen,
00:06:19was wir brauchen,
00:06:19basierend auf dem, woran wir arbeiten,
00:06:21aber es schafft auch ein neues Problem.
00:06:24Man muss eine Wahl treffen.
00:06:25Wir haben auch die Podcast-Anpassung.
00:06:28Ausprobiert bei einer riesigen Projektspezifikation,
00:06:29einer komplexen API, Docker,
00:06:31einem langen Forschungspapier,
00:06:32und es ergibt tatsächlich Sinn.
00:06:33Schließlich ist die API eine große Sache
00:06:35für viele von uns.
00:06:36Man kann sich Workflows vorstellen,
00:06:38wie das Erstellen von Forschungsbriefings
00:06:40aus GitHub-Issues
00:06:41oder das Senden von Ergebnissen
00:06:43an Slack, Linear oder Notion.
00:06:45Großartig.
00:06:46Nun, das Schlechte daran,
00:06:48oder vielleicht die Dinge,
00:06:49die uns anfangs nicht so gefallen,
00:06:50die Einrichtung ist Docker-basiert.
00:06:52Für die meisten von uns ist das ehrlich gesagt in Ordnung.
00:06:54Für alle anderen
00:06:55ist das vielleicht eine Hürde.
00:06:56Das ist noch nicht das “Eine App herunterladen
00:06:59und alles funktioniert einfach”-Erlebnis.
00:07:00Zweitens ist es noch ein neueres Projekt,
00:07:03also müssen manche Dinge noch nachziehen.
00:07:05Und die Qualität hängt dann
00:07:06von Ihren Modellen und Ihrem Setup ab.
00:07:08Also ist die ehrliche Meinung dazu
00:07:10eigentlich recht simpel.
00:07:11Open Notebook ist nicht perfekt.
00:07:12Aber andererseits ist kein Tool perfekt.
00:07:14Deshalb haben wir
00:07:14all diese verschiedenen Tools.
00:07:16Aber die Richtung, in die es geht,
00:07:17ist sehr gut.
00:07:18Es ist nicht für jeden etwas,
00:07:19aber probieren Sie es aus,
00:07:20wenn Sie ein selbstgehostetes
00:07:21Forschungs-Backend wollen,
00:07:23wenn Sie Dokumente haben,
00:07:23die Sie nicht einfach bei Google hochladen möchten,
00:07:25oder wenn Sie eigene Workflows
00:07:27auf Basis der API aufbauen wollen.
00:07:30Der Stack beinhaltet
00:07:31modernes Frontend,
00:07:32ein Python-Backend,
00:07:33SurrealDB
00:07:34und eine KI-Abstraktionsschicht,
00:07:35die für verschiedene Anbieter konzipiert ist.
00:07:37So fühlt es sich an wie etwas,
00:07:39das man tatsächlich erweitern kann,
00:07:41nicht nur etwas, das wir einfach nutzen.
00:07:42Wenn Sie Spaß an Coding-Tools wie diesem haben,
00:07:44abonnieren Sie unbedingt
00:07:45den Better-Stack-Kanal.
00:07:46Wir sehen uns im nächsten Video.
Community Posts
No posts yet. Be the first to write about this video!
Write about this video