Die meisten KI-Modell-Launches geben dir ein Modell und eine Entscheidung: nutzen oder nicht. Gemma 4 gibt dir fünf Modelle und stellt eine andere Frage: Was für Hardware hast du?
Das klingt vielleicht nach Marketing, aber es ist tatsächlich das Nützlichste an dieser Familie. Jedes Mitglied ist architektonisch anders — nicht einfach eine hochskalierte Kopie desselben Dings. Die Edge-Modelle nutzen Per-Layer Embeddings. Das 12B hat Vision- und Audio-Encoder komplett über Bord geworfen. Das 26B routet Tokens durch eine Mischung aus 128 Experten. Das 31B wirft einfach alle 30,7 Milliarden Parameter auf jedes Token. Gleiche Familie, verschiedene Ingenieur-Philosophien, verschiedene Kompromisse.
Gehen wir sie der Reihe nach durch.
E2B — Die Taschen-KI (~1 GB RAM)
Das kleinste Gemma 4. Zwei Milliarden Parameter, runterquantisiert auf etwa 1 GB RAM. Es verarbeitet Text, Bilder und Live-Audio — alles auf dem Gerät, alles offline. Erreicht 37,5 % auf AIME 2026, also kompetitives mathematisches Reasoning auf etwas, das auf einem Raspberry Pi laufen könnte. Das Geheimrezept sind Per-Layer Embeddings (PLE), die jeder Decoder-Schicht ein eigenes dediziertes Embedding geben, um die Intelligenz zu maximieren, ohne die Parameterzahl aufzublähen. Du wirst es nicht mit einem Desktop-Modell verwechseln, aber für schnelle Übersetzungen, Foto-Fragen oder Sprachabfragen auf einem Budget-Handy ist es wirklich brauchbar.
E4B — Das Handy-Kraftpaket (4–6 GB RAM)
Das E4B ist das Ergebnis, wenn man einem für Handys optimierten Modell genug Parameter gibt, um tatsächlich zu denken. Es erreicht 42,5 % auf AIME 2026 — mehr als das Doppelte von Gemma 3s deutlich größerem 27B-Modell. Es verarbeitet Text, Bilder und Audio nativ, hat ein 128K Kontextfenster und enthält einen konfigurierbaren Thinking-Modus für mehrstufiges Reasoning. Wenn du ein modernes Flagship-Handy mit 8+ GB RAM hast, ist das hier das Modell, das „Ich frag einfach mein Handy — offline" von einem Partytrick zu einer echten Option macht.
12B Unified — Der Privacy-First Laptop-Agenten-Motor (~7 GB VRAM mit QAT)
Hier wird Gemma 4 für die meisten Leute richtig spannend. Veröffentlicht am 3. Juni 2026, macht das 12B Unified etwas, was kein anderes Modell dieser Größe tut: Es verarbeitet Text, Bilder und Audio in einem einzigen Decoder-Only-Transformer ohne separate Encoder. Rohe Bild-Patches und Audio-Wellenformen gehen direkt über leichtgewichtige lineare Schichten in den Embedding-Raum. Einfachere Architektur, geringere Latenz, leichteres Fine-Tuning.
Die Zahlen: 77,2 % MMLU Pro, 77,5 % AIME 2026, 72,0 % LiveCodeBench, 78,8 % GPQA Diamond. Google sagt, es kommt dem 26B MoE nahe, „bei weniger als der Hälfte des Gesamtspeicherbedarfs". Mit der offiziellen QAT-Variante (Quantization-Aware Training), veröffentlicht am 5. Juni, braucht die Q4_0-Version etwa 6,7 GB VRAM. Kombiniert mit Multi-Token Prediction für Speculative Decoding zeigen Community-Benchmarks 100–130+ Tokens pro Sekunde auf einer 12 GB GPU wie der RTX 4070 Super. Es läuft sogar auf Laptops mit 16 GB Unified Memory — keine dedizierte GPU nötig.
Wenn du autonome KI-Agenten, lokale Sprachassistenten oder private Coding-Workflows direkt auf deinem Laptop ausführen möchtest, ohne Cloud-Abhängigkeit oder Datenschutzrisiken, ist das hier dein Modell.
26B MoE — Der Effizienz-Experte (15–18 GB VRAM quantisiert)
Das 26B enthält insgesamt 26 Milliarden Parameter, aber hier ist der Trick: Nur 3,8 Milliarden werden pro Token aktiviert. Ein gelernter Router wählt 2 von 128 Experten-Sub-Netzwerken für jedes Token aus und liefert so nahezu 31B-Qualität bei dramatisch geringerem Rechenaufwand. Stell es dir vor wie ein Gebäude voller Spezialisten, von denen du für jede Frage nur die zwei rufst, die du gerade brauchst.
Es unterstützt Text, Bilder und Video (nicht nur Audio wie die kleineren Modelle), hat ein 256K Kontextfenster und belegt Rang #6 unter den offenen Modellen auf Arena AI. Der Kompromiss ist VRAM — du brauchst 15–18 GB quantisiert, also eine RTX 4090, eine RTX 5060 Ti 16GB oder einen Mac mit 32 GB+ Unified Memory. Wenn du die Hardware hast und das beste Intelligenz-pro-Watt-Verhältnis willst, ist das dein Modell.
31B Dense — Der kompromisslose Gigant (16–20 GB VRAM quantisiert)
Kein Routing, kein Mixture of Experts, keine Abkürzungen. Das 31B Dense feuert alle 30,7 Milliarden Parameter bei jedem einzelnen Token. Es ist die Qualitäts-Obergrenze der Gemma 4 Familie — Rang #3 unter allen offenen Modellen auf Arena AI und 89,2 % auf AIME 2026. Dieselben Modalitäten wie das 26B (Text, Bilder, Video), dasselbe 256K Kontextfenster, aber mit maximaler Reasoning-Tiefe bei jeder Antwort.
Der Preis ist Rechenleistung. BF16 braucht ~71 GB VRAM (Enterprise-GPU-Territorium). Aber quantisiert auf INT4 passt es in 16–20 GB — machbar auf einer High-End-Consumer-GPU. Wenn du die Hardware hast und Präzision dir wichtiger ist als Geschwindigkeit, ist das hier das offene Modell, das den Frontier-Cloud-Modellen am nächsten kommt.
Welches solltest du wählen?
Hier ist der ehrliche Spickzettel:
- Handy, offline, schnelle Aufgaben → E4B (oder E2B für sehr eingeschränkte Geräte)
- Laptop, 8–12 GB GPU → 12B Unified mit QAT
- Laptop, 16 GB Unified Memory, keine GPU → 12B Unified mit QAT (langsamer, funktioniert aber)
- Workstation, RTX 4090 / 32 GB Mac → 26B MoE (beste Qualität-pro-Watt)
- Server oder High-End-Workstation → 31B Dense (maximale Qualität)
Alle fünf teilen die Apache 2.0 Lizenz, unterstützen 140+ Sprachen und funktionieren mit Ollama, llama.cpp, LM Studio, vLLM und Googles AI Edge Toolkit. Die Familie ist sich bei der Architektur uneinig — aber einig bei der Philosophie: ernsthafte KI, die auf deiner Hardware läuft.
