Google LiteRT-LM und Gemma 4: Was die 2,2x-Beschleunigung wirklich heißt

Warum Gemma 4 und LiteRT-LM mehr als ein Modell-Update sind

Google verschiebt mit Gemma 4 und LiteRT-LM nicht nur ein Modell, sondern den Ort, an dem KI rechnen soll. Die eigentliche Nachricht ist: lokale Inferenz wird nicht mehr nur als Demo oder Spezialfall gedacht, sondern als produktionsnähere Architektur für Mobile, Desktop und Edge. Dazu passt, dass Google Gemma 4 offiziell mit LiteRT-LM verzahnt und die Runtime zugleich breiter aufstellt – inklusive neuer Integrationspfade und Day-One-Support in den eigenen Edge-Werkzeugen. (blog.google)

Für Entwickler ist die saubere Trennung wichtig: Gemma 4 ist das Modell, LiteRT-LM ist die Ausführungs- und Inference-Schicht, und Multi-Token Prediction ist der Beschleunigungsmechanismus. Wer diese Ebenen vermischt, liest aus der Ankündigung schnell ein reines Modell-Upgrade heraus. Tatsächlich deutet Google eher auf einen Stack-Wechsel: weg von der Frage, wie man ein LLM überhaupt lokal zum Laufen bringt, hin zu der Frage, wie man lokale KI performant, portabel und mit weniger Reibung in echte Produkte bekommt. (blog.google)

Das ist für B2B-Teams relevant, weil lokale KI dann interessant wird, wenn Latenz, Offline-Fähigkeit, Datenschutz oder Kosten den Cloud-Ansatz schlagen. Genau dort setzt Googles Argumentation an: Gemma 4 soll auf Edge-Geräten, in Browser- und App-Workflows und auf Google-eigenen Produkten funktionieren, während LiteRT-LM die technische Basis dafür liefern soll. (developers.googleblog.com)