Gemma 4
Googles Open-Weights-Modellfamilie, in Grössen vom Handy bis zur Workstation, kostenlos auf dem eigenen Gerät nutzbar.
Qualität
Modalität
Multimodal
Context
128K tokens (Handy-Grössen) bis 256K tokens
Zugang
Open Weights
Fabians Take
"Gemma ist nicht ein Modell, sondern eine ganze Reihe von Releases in verschiedenen Grössen, und auf Hugging Face gibt es quantisierte Versionen, die noch viel kleiner sind. Manche passen sogar auf ein Handy und laufen dort. Ich finde es sehr interessant, um kurze Texte zu schreiben, zu übersetzen und Bilder zu interpretieren, alles ohne dass etwas das Gerät verlässt."
Gemma 4 ist Googles Familie von Open-Weights-Modellen. Google hat die ersten Grössen am 2. April 2026 veröffentlicht und seither weitere ergänzt; die 12B folgte am 3. Juni. Alle lassen sich kostenlos herunterladen und unter der Apache-2.0-Lizenz betreiben.
Welche Grösse für welches Gerät
Die kleinsten Grössen, E2B und E4B, sind für Handys und andere kleine Geräte gebaut. Sie lesen Text, Bilder und Audio, mit 128K Tokens Context. Die 12B ist die Laptop-Grösse: Laut Google braucht sie rund 16 GB Speicher, und sie verarbeitet ebenfalls Text, Bilder und Audio. Für eine Workstation mit guter Grafikkarte gibt es die Mixture-of-Experts-Version 26B, die pro Token nur rund 4 Milliarden Parameter aktiviert und für ihre Grösse schnell ist, und die 31B, die grösste und stärkste. Diese beiden lesen Text und Bilder mit 256K Tokens Context.
Quantisierte Versionen
Auf Hugging Face findest du quantisierte Versionen jeder Grösse: dasselbe Modell, dessen Zahlen mit geringerer Präzision gespeichert sind, sodass es deutlich weniger Speicher braucht und schneller läuft, bei leichten Qualitätseinbussen. Dadurch sind die grösseren Grössen auf einem Laptop mit viel Speicher nutzbar und die kleinen auf einem Handy. Tools wie LM Studio und Ollama laden und betreiben sie für dich, und Googles App AI Edge Gallery lässt sie auf einem Handy laufen.
Erwarte kein Reasoning auf Cloud-Modell-Niveau. Für kurze Texte, Übersetzungen und Bildbeschreibungen, bei denen Datenschutz zählt, ist es eine sehr interessante Option für etwas, das offline läuft.
Das Fazit
Am besten für: Kurze Texte, Übersetzungen und das Lesen von Bildern auf dem eigenen Gerät, ohne dass etwas in die Cloud geht.
Pro
- Läuft komplett auf deinem eigenen Gerät, es verlässt also nichts
- Grössen für Handys, Laptops und Workstations; quantisierte Versionen auf Hugging Face sind noch viel kleiner
- Liest Bilder, und die kleineren Grössen nehmen auch Audio
- Apache-2.0-Lizenz
Contra
- Bei komplexem Reasoning weit hinter den Cloud-Modellen
- Die Wahl von Grösse und quantisierter Version braucht etwas Ausprobieren
Specs
- Preis Kostenlos (lokale Ausführung)
- Kostenstufe Kostenlos
- ⚡Geschwindigkeit Schnell
- Lizenz Apache 2.0