Os Modelos Qwen 3.5 Small são INCRÍVEIS! (Testando 0.8B e 2B em Dispositivos Edge)

O apresentador introduz os novos modelos compactos da Alibaba, com variantes de 0,8 e 2 bilhões de parâmetros. Ele destaca que esses modelos são multimodais nativos e podem ser executados localmente em hardwares antigos ou smartphones sem internet. O conceito central explorado é a "densidade de inteligência", que permite alta performance em um tamanho reduzido. O vídeo promete testes práticos em um MacBook Pro M2 e em um iPhone 14 Pro. Este segmento estabelece a expectativa de que o tamanho reduzido não compromete habilidades de visão e raciocínio.

Nesta seção, são analisados os resultados de benchmarks como MMLU e OCRBench para medir o conhecimento geral e a visão. O modelo de 2B atinge 66,5 no MMLU, superando o Llama 2 de 7B, o que demonstra uma compressão de inteligência excepcional. O apresentador ressalta o desempenho em OCR, com pontuações acima de 79 para ambos os modelos, indicando forte capacidade de leitura de documentos. Além disso, é mencionada a janela de contexto de 262K, ideal para processar PDFs extensos ou bases de código. Esses dados técnicos justificam por que esses modelos são considerados um marco para a IA local.

O autor realiza um experimento de codificação completamente offline usando o LM Studio conectado ao Cline no VS Code. Ao solicitar a criação de um site para uma cafeteria, o modelo de 0,8B gerou um código básico, mas com erros de design e URLs de imagem aleatórias. Já o modelo de 2B mostrou-se mais estruturado, criando um plano antes de codificar e entregando um visual mais alinhado ao tema. No entanto, ambos apresentaram problemas técnicos, como loops infinitos e dificuldades em corrigir erros solicitados. O teste conclui que, embora impressionantes pela execução local, esses modelos pequenos ainda não substituem ferramentas de codificação mais robustas.

A análise se desloca para um iPhone 14 Pro utilizando um aplicativo nativo desenvolvido com o framework MLX Swift da Apple. O modelo de 0,8B demonstrou uma velocidade de resposta impressionante no modo avião, acertando inclusive o teste de lógica do "lava-jato". Nos testes de visão, o modelo identificou uma banana, mas falhou ao tentar determinar a raça de um cachorro e o idioma letão em uma imagem. Essas interações mostram a agilidade da arquitetura de memória unificada do Apple Silicon. É um exemplo prático de como a IA multimodal está se tornando acessível em dispositivos móveis do dia a dia.

O modelo de 2B é testado no iPhone, apresentando melhorias significativas na precisão das respostas e na identificação de imagens. Diferente da versão menor, ele reconheceu corretamente o estado de maturação da banana e identificou o idioma letão, mostrando maior maturidade cognitiva. O vídeo encerra com uma nota sobre a possível saída de líderes da equipe Qwen na Alibaba, o que gera incerteza sobre o futuro. O apresentador parabeniza a equipe pelos avanços e incentiva a comunidade a testar os modelos localmente. O encerramento reforça que, apesar de inconsistências pontuais, o Qwen 3.5 Small é atualmente a referência em LLMs minúsculos.