優れた検索でAIエージェントの精度が36%から98%に急上昇 — アーミル・シャキール (Mixedbread)

Highlights

• Mixedbreadは、PDF、スプレッドシート、画像、音声データを100以上の言語で扱い、自社モデルを活用した真のマルチモーダル・多言語検索を提供する.

• 大規模なヘッジファンドが従来のシステムからMixedbreadに移行した結果、AIエージェントの回答精度が36%から98%に急上昇した.

• Mixedbreadの導入により、情報検索の効率化と精度の向上を通じて、LLM（大規模言語モデル）の運用コストが3分の1に減少した.

• 検索プロセスの改善により、複雑なクエリに対してもマルチホップ推論を用いた高速かつ正確なデータ抽出が可能になる.

Timeline

1. 00:00 - 03:28

   Mixedbreadの開発背景とマルチモーダル検索の概要

   検索の品質向上を2年半研究した結果、PDFや音声などのマルチモーダルデータをそのまま取り込んでAIエージェントに活用できる基盤が構築された. 多くの銀行やヘッジファンドが、SOC 2やISO認証、独自のストレージバケット使用モードといったセキュリティ要件の高さから導入を進めている. 一方で、従来のキーワード検索や単純なgrepコマンドでは、膨大なドキュメントから正確な関連情報を見つけ出すのが難しく、トークンコストが急騰する問題があった.

   • Mixedbreadは検索に関する研究ラボとしてスタートし、あらゆるデータをインポートしてAIエージェントが検索できるようにするプロダクトを開発した.
   • PDF、スプレッドシート、画像、音声データを100以上の言語で処理し、ゼロデータ保持やプライバシー要件に対応する.
   • 金融アナリストが膨大なドキュメントから特定の情報を探す際、従来のキーワード検索ではノイズが多く、コストと手間が膨らむ課題があった.
2. 03:28 - 08:52

   従来のRAGとフランケンシュタイン・スタックの限界

   従来のRAGシステムでは、OCRやチャンキングのプロセスにおいて表や図表のデータが失われ、精度低下を引き起こしていた. 最適なOCRやデータベースを選定するために6カ月から8カ月もの評価期間が必要となり、組織にとって大きな負担となっている. また、埋め込みモデルが複雑な財務レポートの細かな差異を捉えきれないため、ドキュメントの規模が大きくなるにつれてエージェントの回答品質が著しく低下し、不要なサブエージェントの乱立を招いていた.

   • 従来のRAGパイプラインは、パース処理やOCR、チャンキング、埋め込みモデルの各段階で深刻な情報の損失を生み出す.
   • 複数のベンダーを組み合わせて構築する手法は「フランケンシュタイン・スタック」と呼ばれ、本番稼働までに多くの時間と人員を消費する.
   • 従来のベクトル検索では、決算報告書のように似通った構造を持つ複雑な財務データをきめ細かく識別することができない.
3. 08:52 - 16:20

   潜在的相互作用モデルによる検索の革新と実証結果

   長年直線的だった検索技術の進化に対し、複数の埋め込みを活用する新しいアプローチによって飛躍的な精度向上が実現された. インテルの決算資料を用いたデモでは、視覚的なレイアウトやバウンディングボックスを活用して根拠となるデータを正確に引用するプロセスが示された. 大規模なデータコーパスを持つ企業においても短期間でのオンボードが可能であり、セキュリティを担保した形で高度な定性分析やエージェント活用を支えている.

   • Mixedbreadが提供する潜在적相互作用モデルは、ドキュメントとクエリに対して複数の埋め込みを持ち、きめ細かい情報を正確に記述する.
   • 大規模ヘッジファンドの導入事例では、従来のシステムで36%だった回答精度がMixedbreadへの移行によって98%に跳ね上がった.
   • マルチモーダル性の導入により、LLMの消費トークン数が大幅に削減され、コストが3分の1に減少した.