2 Model AI Mungil Ini Berjalan di Ponsel Anda, Bukan di Cloud

하이라이트

• Desert Ant Labs merilis dua model AI kecil baru bernama Who dan Eye yang berjalan sepenuhnya secara offline di perangkat pengguna.

• Model Who melakukan diarisasi pembicara untuk podcast dan wawancara serta menyelesaikan pelabelan audio berdurasi 57 menit dalam waktu 6,4 detik pada MacBook M5 Pro.

• Model Eye mampu mengklasifikasikan foto ke dalam 558 kategori, mendeteksi mata terpejam, dan menyortir foto duplikat tanpa mengunggah data ke cloud.

• Lisensi source available dari Desert Ant Labs mengizinkan penggunaan gratis hingga 100.000 perangkat aktif bulanan dengan inferensi tak terbatas.

• Aplikasi web berbasis Eye menggunakan WebGPU untuk menyortir 105 foto dalam waktu 16,1 detik di dalam browser.

타임라인

1. 00:00 - 01:12

   Pengenalan Dua Model AI Baru dari Desert Ant Labs

   Desert Ant Labs kembali memperluas katalog model AI kecil yang dirancang untuk berjalan secara offline di perangkat pengguna tanpa memerlukan model cloud raksasa atau tagihan API. Model Who fokus pada pelabelan pembicara dalam rekaman audio, sementara model Eye menangani manajemen foto secara lokal. Kedua model ini masih berstatus beta dalam versi 4.0 SDK mereka.

   • Desert Ant Labs memperkenalkan dua model AI kecil baru dalam versi 4.0 SDK mereka.
   • Model pertama bernama Who bertugas melakukan diarisasi pembicara pada trek audio berdurasi panjang.
   • Model kedua bernama Eye bertugas menandai, menilai, dan menyortir foto secara native di ponsel atau browser tanpa unggahan cloud.
2. 01:12 - 05:30

   Kinerja dan Demo Model Diarisasi Pembicara Who

   Model Who dirancang khusus untuk podcast, wawancara, dan panggilan jarak jauh di mana setiap orang menggunakan mikrofon terpisah. Model ini tidak melakukan transkripsi teks, melainkan fokus murni pada identifikasi waktu bicara masing-masing pembicara. Dalam demonstrasi menggunakan aplikasi Mac kustom, model ini mendeteksi empat pembicara dengan cepat dan akurat menggunakan neural engine.

   • Model Who memberikan nomor pembicara beserta waktu mulai dan akhir dengan ketepatan hingga 10 milidetik.
   • Who berjalan 950 kali lebih cepat dari waktu nyata pada MacBook M5 Pro dan menyelesaikan episode podcast NASA berdurasi 57 menit dalam 6,4 detik.
   • Uji coba aplikasi Mac menunjukkan Who mampu menyelesaikan pelabelan pembicara untuk file podcast dalam waktu 11,9 detik.
3. 05:30 - 10:35

   Klasifikasi Foto dan Pengujian Model Eye

   Model Eye berfungsi sebagai pengklasifikasi gambar yang berjalan secara lokal melalui LightRT.js di browser atau perangkat pengguna. Model ini tidak membaca teks pada struk melalui OCR, tetapi mengenali jenis dokumen dan menyaring foto duplikat atau buram. Pengujian pada folder sampel membuktikan kemampuan penyortiran otomatis yang efisien langsung di dalam antarmuka web.

   • Model Eye mengenali 558 kategori visual, mendeteksi wajah tersenyum atau memejamkan mata, dan menilai estetika foto.
   • Eye memproses 41 milidetik per foto di Chrome dengan WebGPU yang setara dengan 10.000 foto dalam waktu kurang dari satu menit.
   • Uji coba folder berisi 105 foto di browser menyortir gambar ke dalam kategori dokumen, struk, tangkapan layar, dan foto buram dalam 16,1 detik.
4. 10:35 - 11:28

   Ketentuan Lisensi dan Kesimpulan Model

   Model Who dan Eye menawarkan solusi pemrosesan AI lokal yang menjaga privasi data pengguna agar tidak pernah meninggalkan perangkat. Meskipun gratis untuk skala di bawah 100.000 perangkat aktif bulanan, pengembang perlu memperhatikan ketentuan lisensi source available yang diterapkan oleh Desert Ant Labs sebelum mengintegrasikannya ke dalam produk komersial.

   • Kedua model menggunakan lisensi source_available milik Desert Ant Labs yang bukan merupakan open source murni.
   • Penggunaan model ini gratis hingga 100.000 perangkat aktif bulanan dengan inferensi tanpa batas.
   • SDK mengirimkan pemeriksaan lisensi bulanan yang tidak menyertakan data audio atau foto pengguna.