Hat Google gerade das ULTIMATIVE Edge-KI-Modell entwickelt? (Gemma 4)

하이라이트

• Gemma 4 nutzt Per-Layer-Embeddings, wodurch jede Schicht eigene Informationen einführt, anstatt ein einzelnes Embedding durch den gesamten Transformer zu tragen.

• Das E4B-Modell erzielt im AIME 2026 Mathematik-Benchmark einen Wert von 42,5 % und verdoppelt damit die Leistung deutlich größerer Vorgängermodelle.

• Die Architektur verbraucht weniger als 1,5 Gigabyte RAM und läuft komplett offline auf Geräten wie dem iPhone, Android-Flaggschiffen oder einem Raspberry Pi.

• Gemma 4 integriert Vision, Text und Audio nativ in einer einheitlichen multimodalen Architektur ohne separate Module.

• Ein interner Denkmodus nutzt eine Argumentationskette zur Überprüfung der eigenen Logik, um Endlosschleifen und Logikfehler bei kleinen Modellen zu minimieren.

• Das E4B-Modell bewältigt im Gegensatz zu kleineren Versionen komplexe Coding-Aufgaben wie eine funktionierende Warenkorb-Logik in JavaScript.

• Die Wissensdatenbank von Gemma 4 ist auf dem Stand von Januar 2025 und unterstützt über 140 Sprachen inklusive lokalisierter Spracherkennung.

타임라인

1. 00:00 - 01:45

   Technische Architektur und Per-Layer-Embeddings

   Die Architektur unterscheidet sich von traditionellen Transformern, bei denen Token ihre Bedeutung von Anfang an durch alle Schichten tragen müssen. Diese Effizienz ermöglicht den Betrieb auf Hardware mit geringem Arbeitsspeicher wie dem Raspberry Pi. Das 'E' in den Modellnamen E2B und E4B markiert diese effektive Parameter-Nutzung.

   • Gemma 4 erscheint unter der Apache 2.0-Lizenz als echtes Open-Source-Modell.
   • Per-Layer-Embeddings erlauben das Einführen neuer Informationen in jeder einzelnen Schicht des Modells.
   • Das Modell agiert mit der Argumentationstiefe eines 5-Milliarden-Parameter-Modells bei nur 2,3 Milliarden aktiven Parametern.
2. 01:46 - 03:19

   Multimodalität und Benchmarks

   In internen Tests zeigt das Modell enorme Sprünge in der Genauigkeit der Werkzeugnutzung auf dem T2-Bench. Ein 128K-Kontextfenster unterstützt komplexe OCR-Aufgaben in über 140 Sprachen. Die Fähigkeit, End-to-End-Widgets zu erstellen, demonstriert das Potenzial für autonome Agenten.

   • Die einheitliche Architektur verarbeitet Vision, Text und Audio ohne angeflanschte Zusatzmodule.
   • Ein integrierter Denkmodus verhindert durch interne Logikprüfung typische Fehler kleinerer Modelle.
   • Das Modell nutzt natives Function Calling für mehrstufige agentische Workflows wie Live-Abfragen bei Wikipedia.
3. 03:20 - 05:28

   Lokale Coding-Leistung im Vergleich

   Tests mit LM Studio und CLINE ohne Internetverbindung offenbaren Leistungsunterschiede zwischen den Modellgrößen. Während die kleinste Version redundante Aufgabenlisten an Code-Dateien anhängt, löst die E4B-Variante logische Programmierprobleme, an denen andere kleine Modelle scheitern. Für seriöses Coding bleibt die Parameteranzahl jedoch eine Limitierung.

   • Das E2B-Modell benötigt 1,5 Minuten für die Erstellung einer Website, zeigt aber Schwächen bei der Dateistruktur.
   • Die E4B-Version liefert nach 3,5 Minuten eine funktionierende Warenkorb-Logik.
   • Gemma 4 zeigt im direkten Vergleich zu QWAN 3.5 eine höhere Logik-Präzision bei komplexeren Funktionen.
4. 05:29 - 08:27

   Edge-Performance und mobile Anwendung

   Die Ausführung auf einem iPhone erfolgt über die AI Edge Gallery-App, da native MLX-Bindings für iOS noch fehlen. Das Modell besteht logische Tests wie den Autowasch-Test basierend auf Komfortaspekten. Bei der Texterkennung komplexer Sprachen bleibt die Bedeutung meist präzise, auch wenn die grammatikalische Struktur teilweise unnatürlich wirkt.

   • Das Lite RTLM-Inferenz-Framework ermöglicht extrem schnelle Antwortzeiten auf Mobilgeräten.
   • Die Bilderkennung identifiziert Objekte und Details, unterliegt aber bei spezifischen Rassebestimmungen Fehlern.
   • OCR-Tests bestätigen eine hohe Genauigkeit bei kleinen Sprachen wie Lettisch.
5. 08:28 - 10:11

   Wissensstand und Zukunftsaussichten

   Abfragen zum aktuellen US-Präsidenten bestätigen die Aktualität der Trainingsdaten. Die Verfügbarkeit von Open-Source-Modellen mit dieser Leistung treibt die Entwicklung lokaler KI-Anwendungen voran. Zukünftige Veröffentlichungen von offiziellen Bindings durch Google werden die Integration in eigene iOS-Apps vereinfachen.

   • Das interne Wissen des Modells reicht bis Januar 2025.
   • Community-Projekte wie SwiftLM arbeiten an inoffiziellen nativen Bindings für mobile Plattformen.
   • Gemma 4 erfüllt die Versprechen hinsichtlich lokaler Intelligenzdichte trotz gestalterischer Schwächen.