Encontré el NotebookLM autohospedado que los desarrolladores realmente quieren (Open-Notebook)

BBetter Stack
컴퓨터/소프트웨어창업/스타트업AI/미래기술

Transcript

00:00:00Notebook LM, es increíble.
00:00:02Subes un artículo, un documento, quizás incluso una base de código,
00:00:05y ahora puedes chatear con él y resumirlo.
00:00:08Pero luego está la parte de la que nadie quiere hablar.
00:00:10Aún tienes que subir todo eso a Google.
00:00:14Esto es Open Notebook.
00:00:15Tiene más de 27,000 estrellas en GitHub.
00:00:18Es autoalojado y plantea una pregunta muy sencilla.
00:00:22¿Qué pasaría si pudieras tener la experiencia de Notebook LM,
00:00:24pero con control de nivel de desarrollo?
00:00:26Hoy voy a ponerlo en marcha, probar el flujo de trabajo,
00:00:29compararlo con Notebook LM y AnythingLLM,
00:00:32y responder a la verdadera pregunta.
00:00:34¿Es realmente útil para los desarrolladores,
00:00:36o es solo otro wrapper de IA?
00:00:43Open Notebook es una alternativa privada,
00:00:45autoalojada a Notebook LM,
00:00:47pero eso es quedarse corto,
00:00:49porque no es solo Notebook LM, sino de código abierto.
00:00:53Te ofrece un espacio de trabajo de investigación al estilo de Notebook LM,
00:00:57soporte para múltiples modelos, generación de podcasts, opciones locales,
00:01:01y una API REST sobre la que realmente puedes construir.
00:01:04Y esa es la parte que a mucha gente le interesa.
00:01:07La mayoría de la gente mira esto y piensa una cosa.
00:01:09Genial, puedo hacer un podcast de IA a partir de PDFs.
00:01:12Bravo.
00:01:14Los desarrolladores lo vemos y pensamos algo un poco diferente.
00:01:16¿Puedo conectar esto a mi flujo de trabajo?
00:01:19Esa es la verdadera pregunta.
00:01:20¿Puedo usar modelos locales con él?
00:01:22¿Puedo automatizar los resúmenes de investigación?
00:01:25Y responder a todas esas preguntas
00:01:26es donde Open Notebook se pone interesante.
00:01:28No estás atado a Gemini.
00:01:30Puedes usar diferentes proveedores,
00:01:32incluidos modelos locales a través de Ollama.
00:01:34Puedes autoalojarlo.
00:01:35Puedes personalizar la experiencia del podcast
00:01:37con diferentes perfiles de voz.
00:01:39Y como hay una API,
00:01:41esto puede formar parte de tu stack.
00:01:43No solo otra pestaña en tu navegador.
00:01:45Si te gustan las herramientas de programación que aceleran tu flujo,
00:01:48asegúrate de suscribirte.
00:01:49Tenemos videos saliendo todo el tiempo.
00:01:51Bien, pongámoslo a prueba
00:01:52para que puedas verlo en acción.
00:01:55Open Notebook es Docker-first.
00:01:57Eso es genial.
00:01:58Así que si ya te sientes cómodo con los contenedores,
00:02:00este es un terreno muy familiar.
00:02:02Ejecuta la configuración de Compose,
00:02:04espera a que se inicien los servicios,
00:02:06y luego abre la aplicación en tu navegador.
00:02:08Ahora que funciona, podemos crear un nuevo cuaderno.
00:02:10Piensa en un cuaderno como un espacio de investigación para un proyecto específico.
00:02:13En lugar de volcar todo en un chat de IA gigante,
00:02:17puedes separar las cosas.
00:02:19Un cuaderno para bases de código,
00:02:21uno para investigación de proyectos,
00:02:22uno para documentos académicos,
00:02:24documentación interna,
00:02:25todo eso.
00:02:26Ahora podemos añadir nuestras fuentes.
00:02:29Podrían ser cosas como un PDF,
00:02:31un archivo readme,
00:02:31documentación,
00:02:32un artículo de investigación,
00:02:33o realmente cualquier cosa que quieras que el sistema
00:02:35analice realmente.
00:02:37Y la palabra importante ahí es fuente,
00:02:39porque el objetivo no es solo un chat de IA genérico.
00:02:43El objetivo son respuestas fundamentadas basadas en el material que le das.
00:02:48Así que hagamos una pregunta más técnica ahora.
00:02:51Quizás pueda preguntar algo como,
00:02:53¿cuáles son los componentes principales de este proyecto,
00:02:55y qué tendría que cambiar si quiero extenderlo?
00:02:58Está haciendo su trabajo.
00:03:00Esta es la experiencia básica al estilo Notebook LM.
00:03:03Añadimos fuentes,
00:03:04haces preguntas,
00:03:04obtienes respuestas fundamentadas en esas fuentes.
00:03:07Pero aquí está lo principal.
00:03:08Aquí es donde deja de parecer un clon de algo
00:03:11y empieza a sentirse más amigable para desarrolladores,
00:03:13más como algo propio.
00:03:15Puedes elegir qué proveedor de modelos quieres usar,
00:03:18y no estamos atados a ese proveedor como Gemini,
00:03:20como dije.
00:03:21Modelos alojados,
00:03:22absolutamente bien.
00:03:24Modelos locales,
00:03:25también absolutamente bien.
00:03:27Puedes elegir el compromiso
00:03:28entre calidad,
00:03:29velocidad,
00:03:30costo,
00:03:30y privacidad.
00:03:31Y luego está la función
00:03:32que la mayoría de nosotros clicaremos primero,
00:03:34el generador de podcasts.
00:03:36Notebook LM hizo que los podcasts de IA
00:03:38se sintieran bastante geniales.
00:03:40Si no has jugado con eso,
00:03:41quizás deberías.
00:03:42Si lo ejecuto aquí,
00:03:44bueno,
00:03:44pasa algo más.
00:03:46Escucha.
00:03:46Es un punto de inflexión para los investigadores
00:03:48que buscan autonomía y privacidad.
00:03:50Absolutamente, Alex.
00:03:52Creo que uno de los aspectos más geniales de Ollama.
00:03:54Genial, ¿verdad?
00:03:55Pero Open Notebook te da más control
00:03:57sobre ese formato.
00:03:58Puedes generar podcasts
00:04:00a partir de tus fuentes,
00:04:01configurar la estructura,
00:04:02y usar múltiples perfiles de voz
00:04:04en lugar de estar atrapado
00:04:05con un estilo fijo.
00:04:07Así que en lugar de obtener
00:04:08anfitriones de IA genéricos
00:04:10explicando un PDF,
00:04:11puedes crear algo
00:04:12más específico.
00:04:14Podrías decir algo como
00:04:15un gerente de producto
00:04:16y un desarrollador backend
00:04:17debatiendo un documento de arquitectura.
00:04:19Y eso suena pequeño
00:04:20hasta que lo usas en algo
00:04:22que honestamente es doloroso.
00:04:24Un RFC largo,
00:04:25un libro blanco denso,
00:04:26una especificación de API aburrida,
00:04:28todo eso.
00:04:29Es una forma de hacer que la información seca
00:04:30sea simplemente más fácil de consumir.
00:04:32Ahora, comparémoslo
00:04:33con las herramientas que ya conocemos
00:04:35que existen.
00:04:36Empecemos con Google Notebook LM.
00:04:39Notebook LM es genial.
00:04:40Es fácil.
00:04:41Funciona muy bien.
00:04:41Y para muchos de nosotros,
00:04:43honestamente, probablemente sea suficiente.
00:04:45Pero el compromiso detrás de todo eso
00:04:46es el control.
00:04:48Open Notebook te ofrece
00:04:49autoalojamiento,
00:04:50soporte para múltiples modelos,
00:04:51opciones de modelos locales,
00:04:52podcasts personalizables,
00:04:54y acceso a la API.
00:04:55Así que si estás trabajando
00:04:56con documentos sensibles,
00:04:58investigación privada,
00:04:59o material interno,
00:05:01Open Notebook tiene
00:05:01la mejor historia de privacidad aquí.
00:05:04Ahora, aquí está la trampa de todo esto.
00:05:06¿Es Open Notebook tan fluido
00:05:07como Notebook LM?
00:05:08No, no siempre.
00:05:10Notebook LM tiene la ventaja
00:05:12de ser un producto alojado y pulido.
00:05:15Es de Google, ¿verdad?
00:05:16Open Notebook es más flexible,
00:05:17pero todavía se siente como
00:05:18un proyecto de código abierto orientado a desarrolladores.
00:05:20Eso no es un impedimento.
00:05:22Solo significa que debes saber
00:05:23lo que realmente estás eligiendo.
00:05:24Ahora, compáralo con AnythingLLM.
00:05:27Honestamente, esa es una herramienta realmente genial.
00:05:30AnythingLLM también es popular
00:05:31en el espacio de IA autoalojada,
00:05:33pero gana de una manera diferente.
00:05:35Es más fácil empezar con ella.
00:05:37Tiene una aplicación de escritorio.
00:05:38Tiene flujos de trabajo de agentes sin código.
00:05:40Eso es genial.
00:05:41Para un usuario no técnico,
00:05:42ese puede ser el primer paso.
00:05:44Pero Open Notebook se siente más enfocado
00:05:46en la experiencia de investigación
00:05:48al estilo Notebook LM.
00:05:50Ahora, seamos honestos
00:05:50sobre lo que a la gente le gusta
00:05:51y de lo que la gente realmente
00:05:52se está quejando.
00:05:53La gran victoria aquí
00:05:54va a ser la privacidad.
00:05:56Si tu trabajo involucra documentos sensibles,
00:05:58código privado, investigación de clientes,
00:06:00o cualquier cosa que dudarías
00:06:02en subir a una herramienta de IA alojada,
00:06:04entonces el alojamiento propio realmente importa aquí.
00:06:06Esa es la razón principal
00:06:07por la que Open Notebook
00:06:08existe en primer lugar.
00:06:10Luego tienes la flexibilidad de modelos.
00:06:12No estás atado a un solo proveedor.
00:06:14Sí, puedo elegir los que quiera.
00:06:16Gran victoria.
00:06:17Eso significa que podemos elegir
00:06:19lo que necesitemos
00:06:19según con lo que estemos trabajando,
00:06:21pero también crea un nuevo problema.
00:06:24Tienes que tomar una decisión.
00:06:25También tenemos la personalización del podcast.
00:06:28Probado en una especificación de proyecto enorme,
00:06:29una API densa, Docker,
00:06:31un artículo de investigación largo,
00:06:32y realmente empieza a tener sentido.
00:06:33Por último, la API es importante
00:06:35para muchos de nosotros.
00:06:36Puedes imaginar flujos de trabajo
00:06:38como crear informes de investigación
00:06:40a partir de problemas de GitHub
00:06:41o enviar resultados
00:06:43a Slack, Linear o Notion.
00:06:45Genial.
00:06:46Ahora, lo malo de todo esto,
00:06:48o tal vez cosas
00:06:49que al principio no nos gustan tanto,
00:06:50la configuración es Docker primero.
00:06:52Para la mayoría de nosotros, sinceramente, está bien.
00:06:54Para todos los demás,
00:06:55tal vez eso sea una barrera.
00:06:56Esto todavía no es la aplicación
00:06:59que descargas y todo funciona.
00:07:00En segundo lugar, sigue siendo un proyecto nuevo,
00:07:03así que algunas cosas aún se están poniendo al día.
00:07:05Y la calidad depende
00:07:06de tus modelos y tu configuración.
00:07:08Así que la opinión honesta aquí
00:07:10es algo simple.
00:07:11Open Notebook no es perfecto.
00:07:12Pero bueno, ninguna herramienta es perfecta.
00:07:14Por eso tenemos
00:07:14todas estas herramientas diferentes.
00:07:16Pero la dirección que lleva
00:07:17es muy buena.
00:07:18No es para todo el mundo,
00:07:19pero inténtalo
00:07:20si quieres una infraestructura de investigación
00:07:21alojada localmente,
00:07:23si tienes documentos
00:07:23que no quieres subir a Google,
00:07:25o si quieres construir
00:07:27flujos de trabajo personalizados sobre la API.
00:07:30La pila incluye
00:07:31un frontend moderno,
00:07:32un backend en Python,
00:07:33SurrealDB,
00:07:34y una capa de abstracción de IA
00:07:35diseñada para funcionar entre proveedores.
00:07:37Así que puede sentirse como algo
00:07:39que realmente puedes extender,
00:07:41no solo algo que usamos.
00:07:42Si disfrutas de herramientas de codificación como esta,
00:07:44asegúrate de suscribirte
00:07:45al canal de Better Stack.
00:07:46Nos vemos en otro video.

Key Takeaway

Open Notebook ofrece una alternativa de código abierto y autoalojable a Notebook LM, proporcionando a los desarrolladores mayor privacidad, flexibilidad en la elección de modelos y capacidades de automatización mediante su propia API.

Highlights

  • Open Notebook es una herramienta de investigación de código abierto con más de 27,000 estrellas en GitHub que permite el autoalojamiento.

  • El sistema admite modelos de IA locales a través de Ollama y permite integrar diversos proveedores de modelos en lugar de depender exclusivamente de Gemini.

  • La arquitectura de la aplicación prioriza Docker, facilitando el despliegue en entornos de desarrollo.

  • La función de generación de podcasts permite personalizar perfiles de voz y estructura, superando las limitaciones de estilo fijo de otras herramientas.

  • La disponibilidad de una API REST permite automatizar flujos de trabajo de investigación, como la creación de informes desde problemas de GitHub o la integración con herramientas como Slack y Notion.

  • Open Notebook utiliza una pila tecnológica compuesta por un frontend moderno, backend en Python y SurrealDB para el manejo de datos.

Timeline

Propuesta y capacidades de Open Notebook

  • Open Notebook funciona como una alternativa privada y autoalojable a Google Notebook LM.
  • El sistema ofrece soporte para modelos locales, generación de podcasts personalizados y una API REST para integración técnica.

La herramienta traslada la experiencia de investigación de Notebook LM a un entorno bajo control total del desarrollador. A diferencia de las plataformas centralizadas, permite evitar el envío de documentos sensibles a servicios externos. Su diseño está orientado a la integración dentro del stack de desarrollo, no solo como un asistente en el navegador.

Flujo de trabajo y despliegue técnico

  • El despliegue del sistema es Docker-first, adaptándose a los entornos de trabajo habituales de los desarrolladores.
  • Los usuarios pueden organizar la información en cuadernos específicos para bases de código, documentación técnica o artículos académicos.

El uso de contenedores permite una configuración familiar para quienes trabajan con infraestructura. Los cuadernos actúan como espacios aislados de investigación, permitiendo realizar consultas fundamentadas sobre fuentes específicas cargadas en el sistema. Es posible elegir entre diferentes proveedores de modelos según el balance deseado entre costo, velocidad y privacidad.

Generación de podcasts y comparativa

  • La generación de podcasts permite configurar múltiples perfiles de voz en lugar de utilizar un estilo fijo.
  • Open Notebook supera a Google Notebook LM en privacidad y personalización, aunque carece del mismo nivel de pulido comercial.

La capacidad de definir roles específicos, como un gerente de producto y un desarrollador debatiendo una especificación, facilita el consumo de información técnica densa. Mientras que Notebook LM destaca por su facilidad de uso, AnythingLLM ofrece una experiencia más orientada a usuarios no técnicos. Open Notebook se posiciona como una opción superior para quienes priorizan el control sobre sus datos privados.

Limitaciones y valor estratégico

  • La dependencia inicial de Docker puede representar una barrera para usuarios menos técnicos.
  • La arquitectura del proyecto permite su extensión mediante la capa de abstracción de IA y la API, facilitando automatizaciones personalizadas.

Aunque el proyecto es nuevo y todavía está en fase de maduración, su valor reside en la autonomía que otorga al usuario. La combinación de un frontend moderno, backend en Python y el uso de SurrealDB proporciona una base extensible para flujos de trabajo avanzados. Es una solución indicada para quienes necesitan procesar información confidencial o integrar la investigación en herramientas externas como Slack o Notion.

Community Posts

No posts yet. Be the first to write about this video!

Write about this video