Melhor Busca Levou Este Agente de IA de 36% para 98% de Precisão - Aamir Shakir, Mixedbread
Original · Better Search Took This AI Agent From 36% to 98% Accuracy - Aamir Shakir, Mixedbread
Key Takeaway
A adoção de busca multimodal baseada em interações latentes eleva a precisão de agentes de IA de 36% para 98% enquanto reduz os custos com LLMs em 3 vezes.
Highlights
A migração de uma pilha tradicional de RAG para o sistema Mixedbread elevou a precisão das respostas de agentes de IA de 36% para 98% em um grande fundo de hedge.
A tecnologia de busca multimodal processa PDFs, planilhas, imagens, vídeos e áudios em mais de 100 idiomas com retenção zero de dados.
O uso de contexto de alta qualidade reduz o gasto com modelos de linguagem em 3 vezes ao diminuir a quantidade de tokens desperdiçados na leitura de documentos irrelevantes.
A abordagem de interação latente substitui pontos únicos de embedding por múltiplos embeddings contextualizados por página, preservando dados complexos como tabelas financeiras.
Timeline
Apresentação da plataforma e os gargalos do RAG tradicional
O projeto surgiu para resolver a falta de evolução na recuperação de dados após anos de pesquisas. Pilhas tradicionais de RAG exigem múltiplos fornecedores e geram perda massiva de dados ao transformar documentos complexos em pontos vetoriais simples. Como consequência, agentes de IA realizam consultas agressivas que estouram a janela de contexto e elevam drasticamente os custos operacionais.
- O Mixedbread processa dados multimodais e multilíngues para agentes de IA com conformidade de segurança rigorosa.
- A busca léxica tradicional e o uso de ferramentas como grep geram altos custos de tokens em documentos binários e PDFs.
- A fragmentação e a vetorização padrão perdem informações cruciais de tabelas e diagramas, criando uma pilha Frankenstein ineficiente.
A evolução da busca e o modelo de interação latente
Relatórios financeiros antigos e atuais possuem pontos vetoriais muito semelhantes na vetorização clássica, o que impede a distinção de dados detalhados. O novo modelo de interação latente cria múltiplos embeddings em uma única passada, mantendo o contexto associado à entidade correta, como relatórios da NVIDIA ou da Intel.
- A tecnologia de busca evoluiu lentamente desde o BM25 em 1994 até os modelos de embedding recentes.
- O novo modelo utiliza múltiplos embeddings por documento e consulta para preservar o contexto detalhado de páginas complexas.
- A infraestrutura gerencia indexação e recuperação para que desenvolvedores foquem na construção de aplicações com alto retorno sobre o investimento.
Demonstração prática e estudo de caso em fundo de hedge
A demonstração comprova a recuperação de margens operacionais em relatórios trimestrais da Intel através de análise visual direta de capturas de tela. Um estudo de caso com um fundo de hedge demonstra que a precisão saltou de 36% para 98% após a adoção da ferramenta. A otimização do contexto reduz o consumo de tokens e viabiliza o uso corporativo em larga escala.
- A busca multimodal permite extrair dados visuais de slides e relatórios com alta precisão e suporte a caixas delimitadoras.
- A busca agêntica decompõe consultas complexas de múltiplos saltos de forma 40 vezes mais rápida e barata.
- Um grande fundo de hedge com mais de 1 bilhão de documentos integrou a plataforma em uma semana e meia.
Description
Agents are smart enough. Most of the time, the real problem is getting them to the right data. Aamir Shakir of Mixedbread explains why the usual stack of OCR, chunking, embeddings and a vector database loses information and leaves agents reading every document. He shows multimodal, late-interaction retrieval on Intel earnings reports, and shares a customer whose answer accuracy went from 36% to 98% after switching their search. 0:00 Intro to Mixedbread 1:30 The equity analyst problem 3:30 The key bottlenecks 4:00 The "Frankenstein stack": OCR, chunking and vectors 6:02 Why "just add a vector database" falls short 8:26 The bottleneck is access to your data 9:04 How retrieval has evolved 11:08 Demo: searching Intel earnings reports 14:57 Customer result: 36% to 98% accuracy Aamir Shakir, Mixedbread Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!