Google veröffentlicht EmbeddingGemma 2 mit Multimodalität

Google hat die zweite Generation seines offenen Embedding-Modells EmbeddingGemma 2 veröffentlicht. Nach über zwanzig Millionen Downloads der Vorgängerversion, die sich vor allem für lokale Such- und RAG-Pipelines etabliert hatte, erweitert das neue Modell die Funktionen um multimodale Fähigkeiten. Das Modell, das auf der Gemma-4-Architektur basiert und unter der kommerziell freien Apache-2.0-Lizenz steht, verarbeitet nun Text, Code, Bilder, Videos und Audio in einem gemeinsamen Embedding-Raum. Mit 740 Millionen Parametern ist es speziell für On-Device-Inferenz konzipiert. Die Architektur zeichnet sich durch modulare Skalierbarkeit und hohe Effizienz aus. Für reine Textanwendungen reichen 270 Millionen Parameter aus, während visuelle und audiovisuelle Encoders optional zugeschaltet werden können. Durch den Einsatz von Matryoshka Representation Learning lassen sich Ausgabevektoren dynamisch auf bis zu 128 Dimensionen komprimieren, was den Speicherbedarf lokaler Vektordatenbanken um bis zu 600 Prozent reduziert. Der erweiterte Kontextfenster von 8.000 Token ermöglicht die direkte Verarbeitung von bis zu 5,5 Minuten Audio, 29 Bildern oder 58 Videoframes auf Endgeräten. In Benchmarks wie MTEB und MAEB erreicht EmbeddingGemma 2 die beste Performance in der Kategorie unter einer Milliarde Parameter und übertrifft teilweise deutlich größere Spezialmodelle. Die Code-Verständnis-Fähigkeiten verbessern sich messbar um fast zehn Punkte, was das Modell für lokale Codebasis-Indizes und semantische Code-Suche prädestiniert. Die On-Device-Performance ist durch Quantisierung optimiert: Auf modernen Smartphones wie dem Google Pixel 11 Pro benötigt das rein textbasierte Modell rund 191 Megabyte und das vollständige multimodale Modell etwa 567 Megabyte Arbeitsspeicher. Die Veröffentlichung richtet sich an Entwickler, die datenschutzkonforme, ressourcenschonende Such- und Generierungslösungen direkt auf Consumer-Hardware implementieren möchten.