Estos 2 diminutos modelos de IA se ejecutan en tu teléfono, no en la nube

하이라이트

• Desert Ant Labs lanza los modelos Who y Eye en la versión 4.0 de su SDK para ejecución local en dispositivos.

• El modelo Who procesa audio a una velocidad de 950 veces la tasa real en una MacBook Pro con M5 Pro.

• El modelo Eye clasifica y etiqueta 10,000 fotos en menos de un minuto utilizando WebGPU en el navegador.

• El modelo Eye identifica capturas de pantalla con una precisión del 98% y recibos con un 100% de precisión a un umbral de 0.5.

• La licencia de Desert Ant Labs permite uso gratuito hasta en 100,000 dispositivos activos mensuales con inferencia ilimitada.

타임라인

1. 00:00 - 01:51

   Modelos de inteligencia artificial para ejecución local

   Desert Ant Labs amplía su catálogo de modelos pequeños diseñados para tareas específicas en local. La estrategia prioriza la ejecución directa en el dispositivo del usuario para proteger la privacidad de los datos y eliminar costos de infraestructura en la nube. Ambos modelos se integran en la versión 4.0 del SDK bajo una fase beta.

   • Desert Ant Labs añade dos nuevos modelos especializados en la versión 4.0 de su SDK.
   • Los modelos operan completamente sin conexión en el dispositivo del usuario sin requerir facturación de API.
   • El equipo desarrollador proviene de Detail, una aplicación de edición de video.
2. 01:51 - 05:31

   Rendimiento y funcionamiento del modelo de diarización Who

   El modelo Who opera en grabaciones de podcasts, entrevistas y llamadas remotas con micrófonos independientes por usuario. Su rendimiento disminuye en conferencias con numerosos participantes o cuando el audio cuenta con distancia al micrófono. Una aplicación combinada con el transcriptor de macOS etiqueta correctamente los hablantes en 11.9 segundos.

   • El modelo Who asigna marcas de tiempo e identifica hablantes sin realizar transcripciones ni conocer nombres.
   • Who procesa un podcast de 57 minutos en 6.4 segundos a una velocidad de 950 veces la tasa real.
   • La tasa de error en reuniones AMI alcanza el 12.6%, superando ligeramente a la librería PyAnote.
3. 05:31 - 11:28

   Clasificación de imágenes y rendimiento del modelo Eye

   El modelo Eye opera en navegadores mediante LiteRT.js utilizando WebGPU o WebAssembly. Con un umbral de confianza de 0.5, la precisión llega al 98% en capturas de pantalla y al 100% en recibos, aunque carece de capacidad de lectura OCR. La licencia de uso permite gratuidad hasta 100,000 dispositivos activos mensuales con inferencia ilimitada.

   • El modelo Eye clasifica imágenes en 558 categorías, evalúa la estética y detecta rostros con los ojos cerrados.
   • Eye procesa una foto en 5.5 milisegundos en el motor neuronal de una Mac y 41 milisegundos en Chrome mediante WebGPU.
   • La aplicación web clasifica 105 imágenes mixtas en 16.1 segundos de manera completamente local.