هذان النموذجان الصغيران للذكاء الاصطناعي يعملان على هاتفك وليس السحابة
원제 · These 2 Tiny AI Models Run on Your Phone, Not the Cloud
핵심 요약
توفر مختبرات Desert Ant نموذجين ذكاء اصطناعي صغيرين يعملان محلياً على الأجهزة لتحديد المتحدثين بدقة زمنية عالية وتصنيف الصور فورياً دون الحاجة للسحابة.
하이라이트
يستغرق نموذج Who مدة 6.4 ثوانٍ فقط لمعالجة حلقة بودكاست مدتها 57 دقيقة على شريحة M5 Pro MacBook.
يعالج نموذج Eye الصور بمعدل 5.5 ميلي ثانية لكل صورة على المحرك العصبي أو 41 ميلي ثانية في المتصفح باستخدام WebGPU.
يحقق نموذج Eye دقة بنسبة 98% في تحديد لقطات الشاشة و100% في تحديد الإيصالات دون قراءة النصوص.
يتيح ترخيص مختبرات Desert Ant الاستخدام المجاني حتى 100,000 جهاز نشط شهرياً مع استدلال غير محدود محلياً بالكامل.
타임라인
إطلاق نماذج الذكاء الاصطناعي المحلية الصغيرة
تطرح مختبرات Desert Ant نموذجين متخصصين هما Who المخصص للصوت وEye المخصص للصور. تهدف هذه الفكرة إلى إلغاء تكاليف واجهات برمجة التطبيقات وحماية خصوصية بيانات المستخدمين عبر تشغيل استدلال محلي بالكامل على الأجهزة بدل الاستعانة بالسحابة.
- تطلق مختبرات Desert Ant نموذجين جديدين في الإصدار التجريبي 4.0 للعمل محلياً بالكامل دون اتصال بالإنترنت.
- يستغني الفريق القادم من تطبيق Detail عن النماذج السحابية العملاقة بنماذج صغيرة متخصصة تعمل على أجهزة المستخدمين.
قدرات وأداء نموذج تحديد المتحدثين Who
يتولى نموذج Who فصل المتحدثين في التسجيلات الصوتية الطويلة والمقابلات والبودكاست عبر تخصيص ميكروفون لكل متحدث. يمنح النموذج نتائج دقيقة وسريعة للغاية محلياً، رغم تراجع دقته نسبياً في المكالمات الكبيرة التي تضم 20 متحدثاً أو في حال تباعد الميكروفونات.
- يعالج نموذج Who مقطعاً مدته 57 دقيقة في 6.4 ثوانٍ بسرعة تفوق الوقت الحقيقي بـ 950 ضعفاً على شريحة M5 Pro MacBook.
- يحدد النموذج طوابع زمنية وأرقاماً للمتحدثين بدقة تصل إلى 10 ميلي ثانية مع رصد الأصوات المتداخلة دون نسخ النصوص.
- يسجل نموذج Who معدل خطأ بنسبة 12.6% في اجتماعات AMI مقارنة بنسبة 13.1% لمكتبة PyAnote.
تصنيف وتقييم الصور محلياً عبر نموذج Eye
يقوم نموذج Eye بتصنيف الصور، وتقييم جودتها الجمالية، وتحديد ما إذا كان الأشخاص يبتسمون أو مغمضي الأعين، وتجميع اللقطات المتطابقة واختيار الأفضل منها. يعمل النموذج محلياً وبشكل أصلي في المتصفح أو على الأنظمة المختلفة، مما يجعله أداة قوية لإدارة مكتبات الصور الضخمة بحماية تامة للخصوصية.
- يصنف نموذج Eye الصورة في 5.5 ميلي ثانية على محرك M6 Mac العصبي وفي 41 ميلي ثانية داخل متصفح كروم عبر WebGPU.
- يتعرف النموذج على الإيصالات بدقة 100% ولقطات الشاشة بدقة 98% عبر 558 فئة مختلفة دون استخدام الاستخراج البصري للنصوص.
- يعتمد ترخيص مختبرات Desert Ant نموذج مصادر متاحة مجانياً حتى 100,000 جهاز نشط شهرياً مع فحص ترخيص شهري عبر حزمة تطوير البرمجيات.
설명
Desert Ant Labs is back with two new tiny AI models that run entirely on your device: Who, which figures out who is speaking and when in any recording, and Eye, which tags, scores and sorts your photos without uploading a single image. In this video we look at how both models work, check the numbers, and test them with two demo apps: Who Said What for macOS, and an Eye photo sorter that runs in the browser. 🔗 Relevant Links Who: https://desertant.com/models/who/ Eye: https://desertant.com/models/eye/ Who Said What (macOS app, Who + Apple's speech transcriber): https://github.com/andrisgauracs/who-said-what Eye Photo Sorter (source): https://github.com/andrisgauracs/eye-photo-sorter Eye Photo Sorter (try it live in your browser): https://andrisgauracs.github.io/eye-photo-sorter/ ❤️ More about us Radically better observability stack: https://betterstack.com/ Written tutorials: https://betterstack.com/community/ Example projects: https://github.com/BetterStackHQ 📱 Socials Twitter: https://twitter.com/betterstackhq Instagram: https://www.instagram.com/betterstackhq/ TikTok: https://www.tiktok.com/@betterstack LinkedIn: https://www.linkedin.com/company/betterstack 📌 Chapters: 0:00 Desert Ant Labs is back 1:09 Desert Ant Labs in 40 seconds 1:51 Who: speaker diarization explained 2:16 950× faster than real time 2:39 Who vs pyannote: where it wins and loses 3:27 Who Said What: the demo app 3:50 Live demo: labelling a full podcast 5:28 Eye: a whole photo report in one call 6:08 Speed and confidence scores 6:59 Eye in the browser with LiteRT.js 7:48 Live demo: sorting 105 photos 10:35 Things to keep in mind 11:13 Final thoughts