Pencarian Lebih Baik Membuat Agen AI Ini Naik dari 36% ke 98% Akurasi - Aamir Shakir, Mixedbread

Highlights

• Mixedbread dikembangkan sebagai laboratorium riset penemuan kembali informasi selama dua setengah tahun untuk mengatasi permasalahan kualitas temu kembali data.

• Bank dan dana lindung nilai menggunakan Mixedbread secara langsung dengan skala mencapai lebih dari satu miliar dokumen.

• Pendekatan RAG tradisional mengalami penurunan kualitas secara drastis saat diskalakan ke produksi akibat hilangnya detail informasi pada setiap tahapan proses.

• Tingkat keakuratan jawaban agen AI meningkat dari 36% menjadi 98% setelah beralih menggunakan platform Mixedbread.

• Biaya LLM turun hingga tiga kali lipat karena penyediaan konteks data yang akurat mengurangi jumlah token yang terbuang untuk proses pencarian.

Timeline

1. 00:00 - 01:30

   Latar Belakang dan Perkembangan Teknologi Mixedbread

   Pengembangan Mixedbread difokuskan pada penyediaan infrastruktur data yang aman dan handal bagi perusahaan besar. Kepatuhan terhadap standar keamanan SOC 2 dan ISO memungkinkan adopsi langsung oleh institusi keuangan dengan volume dokumen mencapai miliaran.

   • Mixedbread berawal dari laboratorium riset penemuan kembali informasi selama dua setengah tahun.
   • Platform ini menyediakan pencarian multimodal dan multibahasa untuk berbagai jenis data seperti PDF, spreadsheet, gambar, video, dan audio.
   • Sistem ini dirancang dengan model buatan sendiri dan basis data mandiri untuk menjamin retensi data nol serta kepatuhan privasi.
2. 01:30 - 08:28

   Kendala Teknis pada Penelusuran Dokumen Tradisional dan RAG

   Penerapan tumpukan teknologi konvensional sering kali memerlukan waktu evaluasi yang lama dan melibatkan banyak vendor berbeda. Akibat kegagalan pencarian data yang akurat, agen AI terpaksa meluncurkan banyak sub-agen yang membuat biaya operasional per kueri melonjak tinggi.

   • Penggunaan alat leksikal seperti grep pada dokumen format biner atau hasil pindai memicu peningkatan biaya token secara masif.
   • Proses RAG klasik mengalami kerugian informasi secara bertahap mulai dari penguraian, pemotongan, hingga penyematan vektor tunggal.
   • Model penyematan tunggal gagal membedakan informasi detail pada dokumen kompleks yang memiliki kemiripan struktur seperti laporan keuangan.
3. 08:28 - 14:34

   Inovasi Model Interaksi Laten dan Fitur Multimodal Mixedbread

   Pemisahan antara kecerdasan model dan akses data menjadi kunci utama efisiensi sistem. Dengan mempertahankan informasi visual halaman melalui kotak pembatas, agen dapat melacak kembali dan mengutip sumber data secara presisi.

   • Pencarian beralih dari model penyematan tunggal ke model interaksi laten dengan banyak penyematan untuk dokumen dan kueri.
   • Pengguna dapat mengunggah data secara langsung dan sistem menangani pemrosesan tata letak visual serta OCR secara otomatis.
   • Pencarian genetik mendukung penalaran multi-loncatan yang bekerja lebih cepat dan murah untuk kueri kompleks.
4. 14:34 - 20:20

   Studi Kasus Implementasi dan Keunggulan Performa

   Peningkatan akurasi membuktikan bahwa hambatan utama pada agen AI bukan terletak pada kapasitas kecerdasan model, melainkan pada kualitas akses data yang diberikan. Layanan ini menyediakan kredit pengujian gratis serta fitur keamanan khusus untuk memudahkan adopsi korporasi.

   • Sebuah dana lindung nilai dengan lebih dari satu miliar dokumen berhasil diintegrasikan dalam waktu satu setengah minggu.
   • Tingkat keakuratan jawaban melonjak dari 36% menjadi 98% setelah memanfaatkan pencarian yang lebih baik dari Mixedbread.
   • Penggunaan konteks yang akurat menurunkan biaya LLM hingga tiga kali lipat.