스크립트
00:00:00O repositório novo com mais estrelas do verão: mais de 83 mil estrelas em seis semanas.
00:00:05Ele não veio do Google, da Microsoft ou da OpenAI. Veio do PewDiePie. Sim, aquele PewDiePie.
00:00:12E se você abrir o rastreador de issues, a mais votada diz, e cito:
00:00:17“isso é pura loucura”. E outro comentário diz: “estou literalmente com medo de rodar isso na minha máquina”.
00:00:22Então eu vou rodar por você. E vamos ver o que é tudo isso.
00:00:30O projeto é o Odysseus, e chamá-lo de “apenas outra interface de chat” é diminuir o que ele faz. É um ambiente de trabalho de IA
00:00:38auto-hospedado que aparentemente faz todas essas coisas, que são longas demais até para eu ler.
00:00:44Enquanto faz tudo isso, ele aparentemente se mantém entre sessões, sendo um app rodando na sua máquina.
00:00:50Licença GPL, sem plano na nuvem, sem assinatura. Todo chat e e-mail fica em uma pasta de dados local
00:00:56que você mesmo pode fazer backup. E a história por trás explica tudo. No ano passado, o PewDiePie
00:01:02entrou de cabeça no mundo da IA local, provavelmente mais do que a maioria de nós. Ele montou um rig com 10 GPUs, com placas 4090 de 48 GB
00:01:09modificadas, modelos de 70 bilhões de parâmetros e uma interface caseira chamada chatOS, com um conselho de bots
00:01:18que votavam nas respostas até começarem a se conluiar contra ele. O Odysseus é esse sistema refeito para o
00:01:24resto de nós. Ele lançou em 31 de maio, 30 mil estrelas em 48 horas. Vamos ver o que isso realmente é.
00:01:30Se você gosta de ferramentas de código para agilizar seu fluxo de trabalho, não se esqueça de se inscrever. Temos vídeos lançados
00:01:35o tempo todo. Então vamos rodar isso, porque no Mac é literalmente um script: clonar, rodar o Docker e ele configura
00:01:41tudo. Quando eu der um grep, vou receber uma senha temporária no terminal, e ele roda na porta 7000.
00:01:48Posso fazer login com “admin” e essa senha. E agora estamos olhando para esta interface em estilo
00:01:52terminal escuro, com texto vermelho e fonte monoespaçada. O XDA chamou de “estranhamente incrível”, enquanto um comentarista do Hacker News chamou de
00:01:58“atroz”. E, honestamente, essa divisão diz tudo sobre este projeto.
00:02:03A primeira parada é o livro de receitas. Ele analisa este Mac, o chip, a memória unificada e me diz quais modelos
00:02:09locais realmente vão rodar aqui, e depois baixa e disponibiliza eles via Llama CPP com aceleração Metal
00:02:16completa. Essa única tela substitui uma hora de pesquisa. Posso arrastar as caixas por aí,
00:02:22o que é legal. Mas a próxima coisa interessante aqui é comparar modelos. Um prompt,
00:02:27três modelos locais, lado a lado, em um teste cego. Aí posso digitar meu prompt. E quando terminar,
00:02:34posso escolher o vencedor antes de ele revelar qual modelo escreveu aquilo. Este é o conselho de bots. É bem
00:02:40legal. É tudo construído em um app FastAPI para contêineres, o Odysseus, Chroma DB para memória vetorial,
00:02:47um mecanismo de busca Seer XNG integrado, e Nifty para notificações push. Esse pacote é o motivo pelo qual o Deep Research,
00:02:54sobre a qual vou falar em um minuto, funciona com zero APIs pagas. Ele pesquisa pelo seu próprio SearXNG,
00:03:00lê as fontes e gera um relatório com citações em tempo real, tudo localmente. A memória funciona de verdade. Conte um fato hoje,
00:03:06pergunte amanhã em uma nova sessão e ele saberá. O cliente de e-mail organiza sua caixa de entrada real via IMAP
00:03:11e rascunha respostas. Eu não quis sincronizar meu e-mail aqui por razões óbvias, mas está integrado.
00:03:17Há um calendário integrado onde você pode adicionar coisas como em um calendário normal, mas agora o LLM
00:03:22pode realmente lê-lo. Posso ir para a pesquisa profunda aqui, que é o ponto ao qual estou voltando.
00:03:26Posso fazer uma pergunta e ele roda um loop de agente em várias etapas. A melhor analogia que tenho: um projeto de nuvem
00:03:33auto-hospedado com uma caixa de entrada acoplada. Agora, algo sobre o qual quero ser justo: o loop de agente,
00:03:39o livro de receitas e o pipeline de pesquisa foram adaptados, com os devidos créditos, do OpenCode, LLM Fit
00:03:46e do Deep Research da Alibaba. Trata-se apenas de uma montagem bem-feita. Não é uma invenção do zero,
00:03:52e, honestamente, nem precisa ser. O que nos leva à pergunta que o Hacker News fez palavra por palavra:
00:03:58Por que não usar simplesmente o OpenWebUI? Totalmente justo. O OpenWebUI e o LibreChat têm anos de maturidade em lançamentos
00:04:05de versões reais. O Odysseus vence na abrangência. Ninguém mais entrega e-mail, calendários, agentes agendados,
00:04:11notificações push e um gerenciador de modelos integrado ao hardware no mesmo pacote. Há um detalhe sobre a licença
00:04:17também. A licença do OpenWebUI não permite remover a marca deles, o que o Hacker News apontou não ser totalmente
00:04:23código aberto. O Odysseus é AGPL puro. Mas se você quer apenas chat mais RAG e é só disso que precisa,
00:04:30use outra ferramenta. Não há o que discutir. Agora, a parte que você realmente precisa ouvir,
00:04:34porque não estou promovendo esse projeto de forma alguma: aquela issue principal pergunta “O que diabos está acontecendo aqui?”.
00:04:41Ela descreve 800 pull requests incorporados cheios de código malfeito de IA, um arquivo CSS de 30 mil linhas, JavaScript inline aleatório,
00:04:49e, neste momento, quase 900 PRs continuam abertos, muitos escritos por IA e outros enviados por fãs.
00:04:56Não há nenhuma versão com tag. Zero. Você está rodando uma branch de dev em constante mudança, com dependências sem versão fixa.
00:05:03Instale hoje e amanhã você terá dois apps diferentes. As estrelas vêm em parte dos fãs,
00:05:07obviamente. O cara tem 110 milhões de inscritos, mas estrelas não são revisão de código. E leia o modelo de ameaças
00:05:14do próprio projeto. O agente ganha acesso ao terminal, aos arquivos e à capacidade de enviar e-mails. Palavras deles:
00:05:21trate-o como um console de administração. Nunca exponha isso à internet. Há um detalhe específico do Mac no Docker:
00:05:27a inferência roda apenas na CPU, porque o Docker no macOS não consegue acessar a GPU diretamente. Sendo assim,
00:05:32meu veredito se divide em dois. Como um ambiente de testes local, é legal. Como dependência de produção, com certeza não.
00:05:39E não há problema em ser ambos. Mas eis o que o pessoal do “isso é só código ruim” está perdendo: mais de 300 pessoas
00:05:45já contribuíram para isso. A comunidade pressionou para incluir um arquivo de CODEOWNERS e escreveu uma proposta completa de reforma
00:05:52de arquitetura que atraiu mais de 100 comentários. E, há dois dias, o repositório mudou para sua própria organização no GitHub.
00:05:59Esse projeto é caótico, lotado, irregular e mais vivo do que quase qualquer outro projeto que vi há tempos. Então,
00:06:05aqui está a minha conclusão: não é sobre o código. O código é, honestamente, a parte menos importante naquele
00:06:09repositório. O que importa é que 110 milhões de pessoas viram alguém em quem confiam dizer que você pode rodar
00:06:15sua própria IA na sua própria máquina e ser dono dos seus próprios dados. Auto-hospedar IA está se tornando algo popular,
00:06:20mas isso nem sempre significa que devamos confiar ceticamente. Se você gosta de dicas e truques de programação como este,
00:06:24não se esqueça de se inscrever no canal BetterStack. Nos vemos no próximo vídeo.