Bessere Suche steigerte die Genauigkeit dieses KI-Agenten von 36% auf 98% – Aamir Shakir, Mixedbread
Original · Better Search Took This AI Agent From 36% to 98% Accuracy - Aamir Shakir, Mixedbread
Key Takeaway
Die Ersetzung fragmentierter RAG-Stacks durch eine multimodale, latente Sucharchitektur steigert die Antwortgenauigkeit von KI-Agenten drastisch und senkt die LLM-Kosten.
Highlights
Mixedbread entwickelte eine multimodale und mehrsprachige Suchtechnologie, die Daten wie PDFs, Tabellen, Bilder, Videos und Audio in über 100 Sprachen verarbeitet.
Banken und Hedgefonds nutzen Mixedbread produktiv mit Milliarden von Dokumenten unter Einhaltung von SOC-2- und ISO-Standards sowie einem „Bring your own bucket“-Modus.
Herkömmliche RAG-Pipelines leiden unter Informationsverlusten durch separate Parsing-, OCR-, Chunking- und Einbettungsschritte, was zu unzuverlässigen Ergebnissen führt.
Ein großer Hedgefonds steigerte die Antwortgenauigkeit seiner KI-Agenten nach dem Wechsel zu Mixedbread von 36% auf 98%.
Die optimierte Datenbereitstellung reduziert den Token-Verbrauch von LLMs um das Dreifache, da weniger irrelevante Dokumente gelesen werden müssen.
Timeline
Hintergrund und Architektur von Mixedbread
Das Unternehmen hat eigene Modelle und Datenbanken von Grund auf entwickelt, um die Ingestion-Pipeline zu vereinfachen. Durch SOC-2- und ISO-Konformität sowie den „Bring your own bucket“-Modus werden strenge Sicherheitsanforderungen bei null Datenspeicherung erfüllt.
- Mixedbread ging aus einem zweieinhalbjährigen Forschungslabor für Retrieval-Technologien hervor.
- Das System erfasst multimodale Daten in über 100 Sprachen und bietet vollständigen Datenschutz.
- Finanzunternehmen nutzen die Plattform produktiv für Milliarden von Dokumenten.
Die Grenzen traditioneller RAG-Systeme
Bei komplexen Abfragen in großen Datenbeständen liefern herkömmliche Ansätze oft unbrauchbare Ergebnisse. Agenten reagieren darauf mit aggressiven Unterabfragen, die das Kontextfenster füllen und die Betriebskosten massiv in die Höhe treiben.
- Klassische lokale Suchen wie Grep oder einfache lexikalische Tools erzeugen irrelevante Treffer und hohe Token-Kosten.
- Mehrere verlustbehaftete Schritte wie OCR, Chunking und reine Vektoreinbettungen führen zu einem unzuverlässigen Frankenstein-Stack.
- Traditionelle Einbettungsmodelle scheitern bei großen Mengen ähnlicher Dokumente wie historischen Finanzberichten.
Latente Interaktionsmodelle und multimodale Suche
Durch die direkte Einbettung visueller Layouts und strukturierter Daten entfallen viele Fehlerquellen früherer OCR- und Parsing-Prozesse. Das System stellt APIs bereit, mit denen Agenten eigenständig zwischen normaler und agentischer Suche wählen können.
- Neue latente Interaktionsmodelle nutzen mehrere Embeddings pro Dokument und Abfrage für feingranulare Detailgenauigkeit.
- Die visuelle Analyse von Dokumentseiten verhindert den Verlust von Informationen aus Tabellen und Diagrammen.
- Agentische Suchen verarbeiten mehrstufige Schlussfolgerungen deutlich schneller und günstiger als bisherige Lösungen.
Fallstudie und Fazit
Die Fallstudie zeigt, dass der eigentliche Engpass bei KI-Anwendungen nicht die Modellintelligenz, sondern der präzise Datenzugriff ist. Mixedbread bietet Entwicklern kostenloses Guthaben und flexible Sicherheitsoptionen zum Testen großer Datenmengen an.
- Ein großer Hedgefonds integrierte innerhalb von eineinhalb Wochen eine Milliarde Dokumente in die Plattform.
- Die Antwortgenauigkeit stieg durch den Technologiewechsel von 36% auf 98%.
- Der optimierte Kontext führt zu einem um das Dreifache geringeren Token-Verbrauch bei LLM-Ausgaben.
Description
Agents are smart enough. Most of the time, the real problem is getting them to the right data. Aamir Shakir of Mixedbread explains why the usual stack of OCR, chunking, embeddings and a vector database loses information and leaves agents reading every document. He shows multimodal, late-interaction retrieval on Intel earnings reports, and shares a customer whose answer accuracy went from 36% to 98% after switching their search. 0:00 Intro to Mixedbread 1:30 The equity analyst problem 3:30 The key bottlenecks 4:00 The "Frankenstein stack": OCR, chunking and vectors 6:02 Why "just add a vector database" falls short 8:26 The bottleneck is access to your data 9:04 How retrieval has evolved 11:08 Demo: searching Intel earnings reports 14:57 Customer result: 36% to 98% accuracy Aamir Shakir, Mixedbread Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!