Encontrei o NotebookLM autohospedado que os desenvolvedores realmente querem (Open-Notebook)

PortuguêsالعربيةDeutschEnglishEspañolFrançaisहिन्दीBahasa Indonesia日本語한국어Русский中文
BBetter Stack
Computing/SoftwareSmall Business/StartupsInternet Technology

Transcript

00:00:00Notebook LM, é incrível.
00:00:02Você faz upload de um artigo, um documento, talvez até um código-fonte,
00:00:05e agora você pode conversar com ele e resumi-lo.
00:00:08Mas então tem a parte da qual ninguém gosta de falar.
00:00:10Você ainda precisa fazer upload de tudo isso para o Google.
00:00:14Este é o Open Notebook.
00:00:15Ele tem mais de 27.000 estrelas no GitHub.
00:00:18É auto-hospedado e faz uma pergunta muito simples.
00:00:22E se você pudesse ter a experiência do Notebook LM,
00:00:24mas com controle de nível de desenvolvedor?
00:00:26Hoje, vou iniciá-lo, testar o fluxo de trabalho,
00:00:29compará-lo ao Notebook LM e ao anything LLM,
00:00:32e responder à verdadeira pergunta.
00:00:34Isso é realmente útil para desenvolvedores,
00:00:36ou é apenas mais um wrapper de IA?
00:00:43O Open Notebook é uma alternativa voltada para a privacidade,
00:00:45auto-hospedada ao Notebook LM,
00:00:47mas isso subestima um pouco,
00:00:49porque não é apenas o Notebook LM, mas de código aberto.
00:00:53Ele oferece um espaço de trabalho de pesquisa estilo Notebook LM,
00:00:57suporte a vários modelos, geração de podcasts, opções locais,
00:01:01e uma API REST na qual você pode realmente construir.
00:01:04E essa é a parte com a qual muitas pessoas se importam.
00:01:07A maioria das pessoas olha para isso e pensa em uma coisa.
00:01:09Legal, posso fazer um podcast de IA a partir de PDFs.
00:01:12Bravo.
00:01:14Os desenvolvedores olham para isso e pensamos de forma um pouco diferente.
00:01:16Posso conectar isso ao meu fluxo de trabalho?
00:01:19Essa é uma pergunta real.
00:01:20Posso usar modelos locais com ele?
00:01:22Posso automatizar resumos de pesquisa?
00:01:25E responder a todas essas perguntas
00:01:26é onde o Open Notebook se torna interessante.
00:01:28Você não está preso ao Gemini.
00:01:30Você pode usar diferentes provedores,
00:01:32incluindo modelos locais via Ollama.
00:01:34Você pode auto-hospedá-lo.
00:01:35Você pode personalizar a experiência do podcast
00:01:37com diferentes perfis de locutores.
00:01:39E como existe uma API,
00:01:41isso pode se tornar parte da sua stack.
00:01:43Não apenas mais uma aba no seu navegador.
00:01:45Se você gosta de ferramentas de codificação que aceleram seu fluxo de trabalho,
00:01:48não deixe de se inscrever.
00:01:49Temos vídeos saindo o tempo todo.
00:01:51Muito bem, vamos executar isso
00:01:52para que você possa vê-lo em ação.
00:01:55O Open Notebook é focado em Docker.
00:01:57Isso é incrível.
00:01:58Então, se você já está confortável com containers,
00:02:00esse é um terreno bem familiar.
00:02:02Execute a configuração do Compose,
00:02:04espere os serviços subirem,
00:02:06e então abra o aplicativo no seu navegador.
00:02:08Agora que está funcionando, podemos criar um novo caderno.
00:02:10Pense em um caderno como um espaço de trabalho de pesquisa específico para um projeto.
00:02:13Em vez de jogar tudo em um chat de IA gigante,
00:02:17você pode separar as coisas.
00:02:19Um caderno para códigos-fonte,
00:02:21um para pesquisa de projeto,
00:02:22um para artigos acadêmicos,
00:02:24documentos internos,
00:02:25tudo isso.
00:02:26Agora podemos adicionar nossas fontes.
00:02:29Isso pode ser coisas como um PDF,
00:02:31um readme,
00:02:31documentação,
00:02:32um artigo de pesquisa,
00:02:33ou realmente qualquer coisa que você queira que o sistema
00:02:35realmente analise.
00:02:37E a palavra importante aí é fonte,
00:02:39porque o objetivo não é apenas um chat de IA genérico.
00:02:43O objetivo são respostas fundamentadas no material que você fornece.
00:02:48Então, vamos fazer uma pergunta mais técnica aqui.
00:02:51Talvez eu possa perguntar algo do tipo,
00:02:53quais são os principais componentes deste projeto,
00:02:55e o que eu precisaria mudar se quisesse estendê-lo?
00:02:58Ele está fazendo o seu trabalho.
00:03:00Essa é a experiência básica ao estilo Notebook LM.
00:03:03Adicionamos fontes,
00:03:04fazemos perguntas,
00:03:04obtemos respostas fundamentadas nessas fontes.
00:03:07Mas aqui está a coisa principal.
00:03:08É aqui que deixa de parecer um clone de algo
00:03:11e começa a parecer mais amigável para desenvolvedores,
00:03:13mais algo que talvez seja por si só.
00:03:15Você pode escolher qual provedor de modelo deseja usar,
00:03:18e não estamos presos a esse fornecedor como o Gemini,
00:03:20como eu disse.
00:03:21Modelos hospedados,
00:03:22absolutamente bem.
00:03:24Modelos locais,
00:03:25também absolutamente bem.
00:03:27Você pode escolher o equilíbrio
00:03:28entre qualidade,
00:03:29velocidade,
00:03:30custo,
00:03:30e privacidade.
00:03:31E então tem o recurso
00:03:32que a maioria de nós clicará primeiro,
00:03:34o gerador de podcast.
00:03:36O Notebook LM fez os podcasts de IA
00:03:38parecerem realmente legais.
00:03:40Se você ainda não brincou com isso,
00:03:41talvez devesse.
00:03:42Se eu executar aqui,
00:03:44bem,
00:03:44algo mais acontece.
00:03:46Dê uma ouvida.
00:03:46É um divisor de águas para pesquisadores
00:03:48que buscam autonomia e privacidade.
00:03:50Com certeza, Alex.
00:03:52Acho que um dos aspectos mais legais do Ollama.
00:03:54Legal, né?
00:03:55Mas o Open Notebook lhe dá mais controle
00:03:57sobre esse formato.
00:03:58Você pode gerar podcasts
00:04:00a partir de suas fontes,
00:04:01configurar a estrutura,
00:04:02e usar múltiplos perfis de locutores
00:04:04em vez de ficar preso
00:04:05com um estilo fixo.
00:04:07Então, em vez de ter
00:04:08locutores de IA genéricos
00:04:10explicando um PDF,
00:04:11você pode criar algo
00:04:12mais específico.
00:04:14Você poderia dizer algo como
00:04:15um gerente de produto
00:04:16e um desenvolvedor backend
00:04:17debatendo um documento de arquitetura.
00:04:19E isso parece pequeno
00:04:20até você usar isso em algo
00:04:22que é honestamente doloroso.
00:04:24Um longo RFC,
00:04:25um white paper denso,
00:04:26uma especificação de API chata,
00:04:28todas essas coisas.
00:04:29É uma maneira de tornar informações áridas
00:04:30mais fáceis de consumir.
00:04:32Agora, vamos comparar
00:04:33com as ferramentas que já conhecemos
00:04:35que estão por aí.
00:04:36Vamos começar com o Google Notebook LM.
00:04:39O Notebook LM é ótimo.
00:04:40É fácil.
00:04:41Funciona muito bem.
00:04:41E para muitos de nós,
00:04:43honestamente, isso é provavelmente suficiente.
00:04:45Mas o compromisso por trás de tudo isso
00:04:46é o controle.
00:04:48O Open Notebook lhe dá
00:04:49auto-hospedagem,
00:04:50suporte a múltiplos modelos,
00:04:51opções de modelos locais,
00:04:52podcasts personalizáveis,
00:04:54e acesso à API.
00:04:55Então, se você está trabalhando
00:04:56com documentos sensíveis,
00:04:58pesquisa privada,
00:04:59ou material interno,
00:05:01o Open Notebook tem
00:05:01uma história de privacidade mais forte aqui.
00:05:04Agora, aqui está o problema disso tudo.
00:05:06O Open Notebook é tão fluido
00:05:07quanto o Notebook LM?
00:05:08Não, nem sempre.
00:05:10O Notebook LM tem a vantagem
00:05:12de ser um produto polido e hospedado.
00:05:15É do Google, certo?
00:05:16O Open Notebook é mais flexível,
00:05:17mas ainda parece
00:05:18um projeto de código aberto voltado para desenvolvedores.
00:05:20Isso não é um impedimento.
00:05:22Significa apenas que você deve saber
00:05:23o que você está realmente escolhendo.
00:05:24Agora, vamos comparar com o anything LLM.
00:05:27Honestamente, essa é uma ferramenta muito legal.
00:05:30O anything LLM também é popular
00:05:31no espaço de IA auto-hospedada,
00:05:33mas ele ganha de uma maneira diferente.
00:05:35É mais fácil de começar.
00:05:37Ele tem um aplicativo de desktop.
00:05:38Ele tem fluxos de trabalho de agentes sem código.
00:05:40Isso é ótimo.
00:05:41Para um usuário não técnico,
00:05:42esse pode ser o primeiro passo.
00:05:44Mas o Open Notebook parece mais focado
00:05:46na experiência de pesquisa
00:05:48estilo Notebook LM.
00:05:50Agora, sejamos honestos
00:05:50sobre o que as pessoas gostam
00:05:51e do que as pessoas estão realmente
00:05:52reclamando.
00:05:53A grande vitória aqui
00:05:54será a privacidade.
00:05:56Se o seu trabalho envolve documentos sensíveis,
00:05:58código privado, pesquisa de cliente,
00:06:00ou qualquer coisa que você hesitaria
00:06:02em enviar para uma ferramenta de IA hospedada,
00:06:04então a auto-hospedagem realmente importa aqui.
00:06:06Essa é a principal razão
00:06:07pela qual o Open Notebook
00:06:08na verdade existe em primeiro lugar.
00:06:10Depois, tem a flexibilidade de modelos.
00:06:12Você não é forçado a um único provedor.
00:06:14Sim, posso escolher os que eu quiser.
00:06:16Uma grande vantagem.
00:06:17Isso significa que podemos escolher
00:06:19o que precisamos
00:06:19com base no que estamos trabalhando,
00:06:21mas também cria um novo problema.
00:06:24Você tem que fazer uma escolha.
00:06:25Também temos a personalização do podcast.
00:06:28Experimentei em uma especificação de projeto enorme,
00:06:29uma API densa, Docker,
00:06:31um longo artigo de pesquisa,
00:06:32e realmente começa a fazer sentido.
00:06:33Por fim, a API é uma grande coisa
00:06:35para muitos de nós.
00:06:36Você pode imaginar fluxos de trabalho
00:06:38como criar briefings de pesquisa
00:06:40a partir de issues do GitHub
00:06:41ou enviar resultados
00:06:43para o Slack, Linear ou Notion.
00:06:45Ótimo.
00:06:46Agora, o ponto ruim sobre tudo isso,
00:06:48ou talvez coisas
00:06:49que não gostamos tanto no início,
00:06:50a configuração é via Docker primeiro.
00:06:52Para a maioria de nós, honestamente, isso é tranquilo.
00:06:54Para todos os outros,
00:06:55talvez isso seja uma barreira.
00:06:56Isso ainda não é o “baixe um aplicativo
00:06:59e tudo simplesmente funciona”.
00:07:00Segundo, ainda é um projeto novo,
00:07:03então algumas coisas ainda estão se ajustando.
00:07:05E a qualidade depende
00:07:06dos seus modelos e da sua configuração.
00:07:08Então a opinião honesta aqui
00:07:10é meio simples.
00:07:11O Open Notebook não é perfeito.
00:07:12Mas, por outro lado, nenhuma ferramenta é perfeita.
00:07:14É por isso que temos
00:07:14todas essas ferramentas diferentes.
00:07:16Mas a direção que ele está tomando
00:07:17é muito boa.
00:07:18Não é para todos,
00:07:19mas dê uma chance
00:07:20se você quer um backend de pesquisa
00:07:21auto-hospedado,
00:07:23se você tem documentos
00:07:23que não quer simplesmente enviar ao Google,
00:07:25ou se você quer criar
00:07:27fluxos de trabalho personalizados sobre a API.
00:07:30A stack inclui
00:07:31um front-end moderno,
00:07:32um backend em Python,
00:07:33SurrealDB,
00:07:34e uma camada de abstração de IA
00:07:35projetada para funcionar entre provedores.
00:07:37Então, pode parecer algo
00:07:39que você realmente pode estender,
00:07:41não apenas algo que usamos.
00:07:42Se você gosta de ferramentas de codificação como esta,
00:07:44não deixe de se inscrever
00:07:45no canal Better Stack.
00:07:46Nos vemos em outro vídeo.

Key Takeaway

O Open Notebook oferece uma alternativa autohospedada e extensível ao Notebook LM, priorizando a privacidade, a escolha de modelos locais e a integração via API para fluxos de trabalho de desenvolvedores.

Highlights

  • O Open Notebook é uma alternativa de código aberto ao Google Notebook LM, atingindo mais de 27.000 estrelas no GitHub.

  • A ferramenta permite auto-hospedagem via Docker, oferecendo maior controle sobre a privacidade de documentos sensíveis.

  • O sistema suporta múltiplos provedores de modelos de IA, incluindo a execução local via Ollama, em vez de depender exclusivamente do Gemini.

  • A funcionalidade de geração de podcasts permite customizar perfis de locutores para analisar documentos densos como especificações de API ou white papers.

  • Uma API REST integrada permite automatizar fluxos de pesquisa e conectar o sistema a ferramentas como Slack, Linear ou Notion.

Timeline

A proposta do Open Notebook

  • O Open Notebook atua como um espaço de trabalho de pesquisa focado na soberania de dados.
  • A ferramenta supera a dependência de serviços em nuvem como o Gemini do Google.
  • Desenvolvedores podem integrar o sistema diretamente em suas stacks tecnológicas através de uma API REST.

Ao contrário do Google Notebook LM, que exige o envio de documentos para servidores externos, o Open Notebook é uma solução de código aberto auto-hospedada. Ele mantém a experiência de chat fundamentada em documentos, mas adiciona controle de nível de desenvolvedor. A flexibilidade permite evitar a dependência de um único fornecedor, garantindo maior autonomia sobre a privacidade da informação.

Fluxo de trabalho e personalização

  • A configuração do sistema é baseada em containers Docker.
  • Cadernos individuais separam contextos como códigos-fonte, documentos internos e artigos acadêmicos.
  • O usuário alterna entre modelos hospedados e locais conforme a necessidade de velocidade, custo e privacidade.
  • O gerador de podcasts utiliza múltiplos perfis para transformar documentos técnicos em diálogos consumíveis.

A experiência de uso organiza pesquisas em cadernos específicos, evitando a mistura de tópicos em um único chat. A possibilidade de escolher modelos locais, como os via Ollama, equilibra requisitos de hardware com segurança. A funcionalidade de podcast é aprimorada, permitindo que o usuário defina perfis, como um gerente de produto e um desenvolvedor, para debater arquiteturas ou especificações complexas.

Comparativo e viabilidade técnica

  • O Google Notebook LM oferece maior polidez, enquanto o Open Notebook vence em flexibilidade e privacidade.
  • O Anything LLM é superior para usuários iniciantes com seu aplicativo de desktop e agentes sem código.
  • A stack técnica inclui um front-end moderno, backend Python, SurrealDB e uma camada de abstração de IA.

Embora o Notebook LM seja um produto mais acabado, o Open Notebook é a escolha ideal para quem lida com dados sensíveis e deseja automação. O Anything LLM serve como alternativa para quem busca facilidade de uso, mas o Open Notebook se destaca pela capacidade de extensão. A arquitetura, composta por tecnologias como o SurrealDB, permite customizações profundas e integrações personalizadas via API.

Community Posts

No posts yet. Be the first to write about this video!

Write about this video