¡Los modelos pequeños de Qwen 3.5 son INCREÍBLES! (Probando 0.8B y 2B en dispositivos Edge)

El presentador introduce la nueva serie Qwen 3.5 de Alibaba, destacando sus versiones de 800 millones y 2 mil millones de parámetros. Estos modelos son multimodales nativos, lo que significa que pueden procesar texto y visión de forma integrada a pesar de su reducido tamaño. Se enfatiza que estos modelos pueden ejecutarse localmente en hardware de hace seis años sin necesidad de internet. El video se centrará en probar estos modelos en un MacBook Pro M2 y un iPhone 14 Pro para validar su potencia real. El objetivo es demostrar que la inteligencia artificial avanzada ya no requiere obligatoriamente de centros de datos masivos.

Se explica el concepto de "densidad de inteligencia", donde Qwen logra comprimir capacidades de modelos grandes en arquitecturas diminutas. En la prueba MMLU, el modelo de 2B alcanza un 66,5, superando significativamente al Llama 2 original de 7B parámetros. En tareas de visión como OCRBench, los modelos muestran una capacidad sobresaliente para leer documentos complejos y analizar imágenes con texto. Además, se destaca la impresionante ventana de contexto de 262K, permitiendo el análisis de archivos PDF enteros. Estos datos sitúan a Qwen 3.5 a la vanguardia de la eficiencia en el sector de los modelos de lenguaje pequeños.

El analista configura un entorno de programación local utilizando LM Studio y la extensión Cline en VS Code, desactivando completamente el Wi-Fi. Al probar el modelo de 0.8B para crear un sitio web de una cafetería, el resultado es funcional pero estéticamente pobre y con enlaces de imágenes aleatorios. Se observa que el modelo intenta realizar llamadas a herramientas pero su bajo conteo de parámetros limita su fiabilidad en entornos profesionales reales. El proceso de generación fue rápido, tomando aproximadamente un minuto, pero con alucinaciones en las URLs de las imágenes. Esta sección concluye que, aunque es un avance técnico, no se recomienda para desarrollo de software crítico.

Se repite el experimento de programación con la versión de 2 mil millones de parámetros, encontrando dificultades técnicas y bucles infinitos en la generación. A diferencia de la versión más pequeña, este modelo intentó estructurar un plan de trabajo antes de escribir el código fuente. El diseño final del sitio web fue mucho más limpio, utilizando una paleta de colores coherente con una cafetería e intentando implementar un carrito de compras. A pesar de los mejores resultados visuales, la estabilidad del modelo fue un problema constante durante la prueba. El autor aclara que estas pruebas son por curiosidad técnica y no para validar un uso profesional inmediato.

La prueba se traslada a un iPhone 14 Pro utilizando una aplicación nativa desarrollada con el framework MLX de Apple para aprovechar la GPU Metal. El modelo de 0.8B responde de forma casi instantánea en modo avión, superando pruebas de lógica clásicas como el test del túnel de lavado. En las pruebas de visión, el modelo identifica correctamente un plátano, aunque alucina con términos extraños y falla al identificar razas de perros. Al probar el reconocimiento óptico de caracteres (OCR) con texto en letón, el modelo de 0.8B falla al confundirlo con esloveno. Esta sección resalta la increíble velocidad de inferencia directamente en el bolsillo del usuario.

El modelo de 2B parámetros muestra una mejora notable en el iPhone, identificando correctamente el estado de madurez de las frutas y el idioma letón. A pesar de seguir fallando en la identificación precisa de razas caninas, se considera el modelo pequeño más potente probado hasta la fecha. El video concluye con una nota agridulce sobre la reestructuración del equipo Qwen en Alibaba y la salida de ingenieros clave. Se sugiere que estos modelos podrían marcar el fin de una era de innovación rápida para este grupo específico. El presentador invita a la audiencia a compartir sus experiencias y suscribirse para más análisis técnicos de IA.