Улучшенный поиск поднял точность этого ИИ-агента с 36% до 98% — Аамир Шакир, Mixedbread
원제 · Better Search Took This AI Agent From 36% to 98% Accuracy - Aamir Shakir, Mixedbread
핵심 요약
Переход от классического векторного поиска к мультимодальному поиску скрытого взаимодействия повышает точность ИИ-агентов с 36% до 98% и сокращает затраты на токены в 3 раза.
하이라이트
Точность ответов ИИ-агентов выросла с 36% до 98% при переходе на поисковую платформу Mixpeek.
Компания Mixedbread занимается исследованиями в области поиска уже два с половиной года.
Платформа поддерживает обработку документов, таблиц, изображений, видео и аудио на более чем 100 языках с нулевым хранением данных.
Качественный контекст снижает затраты на работу языковых моделей в 3 раза за счет сокращения объема обрабатываемых токенов.
Крупный хедж-фонд с массивом более чем в 1 миллиард документов был подключен к системе всего за полторы недели.
타임라인
Основы платформы Mixedbread и безопасность данных
Разработчики создавали поисковую систему с нуля в течение двух с половиной лет, чтобы решить проблемы классического поиска. Платформа автоматизирует обработку данных, OCR и загрузку файлов, позволяя клиентам из финансового сектора работать с миллиардами документов в условиях строгой конфиденциальности.
- Mixedbread разрабатывает специализированные модели и базы данных для мультимодального поиска.
- Платформа обеспечивает нулевое хранение данных и имеет сертификацию SOC 2 и ISO.
- Режим собственного хранилища Bring Your Own Bucket отвечает жестким требованиям безопасности банков и хедж-фондов.
Ограничения традиционных подходов и стека Франкенштейна
Применение стандартных векторных баз данных и простейших эмбеддингов сжимает сложные финансовые отчеты и таблицы в единую точку в пространстве, из-за чего система теряет способность различать детали. Это заставляет ИИ-агентов выполнять агрессивные запросы, что резко увеличивает стоимость каждого обращения.
- Локальный поиск через термины и grep приводит к избыточным расходам на токены и не справляется с бинарными PDF-файлами.
- Классический RAG-пайплайн с парсингом, чанкингом и векторными эмбеддингами теряет исходную информацию.
- Традиционный стек требует привлечения множества вендоров и команд разработчиков на срок до восьми месяцев.
Мультимодальный поиск и модель скрытого взаимодействия
Эволюция поисковых систем привела к созданию моделей скрытого взаимодействия, которые контекстуализируют каждый элемент документа в момент создания эмбеддинга. Это позволяет эффективно извлекать точные данные из сложных графиков и финансовых презентаций, обеспечивая высокую скорость работы.
- Новая модель использует несколько эмбеддингов для документов и запросов для детального описания информации на странице.
- Визуальное восприятие скриншотов и графиков устраняет потери данных при традиционном OCR.
- Агентный поиск выполняет многошаговые рассуждения значительно быстрее и дешевле существующих аналогов.
Практические результаты внедрения и экономический эффект
Реальные кейсы показывают, что узким местом современных систем является не интеллект моделей, а доступ к качественным данным. Переход на специализированный поисковый слой позволяет компаниям эффективно масштабировать агентские платформы и существенно снижать операционные расходы.
- Точность работы ИИ-агентов в крупном хедж-фонде увеличилась с 36% до 98% после внедрения Mixpeek.
- Затраты на языковые модели снизились в 3 раза благодаря подаче качественного контекста.
- Компания предлагает бесплатные кредиты и быструю активацию функции безопасного хранения данных для тестирования.
설명
Agents are smart enough. Most of the time, the real problem is getting them to the right data. Aamir Shakir of Mixedbread explains why the usual stack of OCR, chunking, embeddings and a vector database loses information and leaves agents reading every document. He shows multimodal, late-interaction retrieval on Intel earnings reports, and shares a customer whose answer accuracy went from 36% to 98% after switching their search. 0:00 Intro to Mixedbread 1:30 The equity analyst problem 3:30 The key bottlenecks 4:00 The "Frankenstein stack": OCR, chunking and vectors 6:02 Why "just add a vector database" falls short 8:26 The bottleneck is access to your data 9:04 How retrieval has evolved 11:08 Demo: searching Intel earnings reports 14:57 Customer result: 36% to 98% accuracy Aamir Shakir, Mixedbread Join us in SF for the second annual AIE CODE summit: https://aie.codes our last flagship summit of 2026. Applications live now!
