Google veröffentlicht mit EmbeddingGemma 2 ein kompaktes Modell, das Text, Code, Bilder, Audio und Video gleichzeitig bearbeiten kann. Apps können dadurch etwa eine Videostelle per Sprachaufnahme finden oder Audiodateien mit einer Texteingabe durchsuchen, ohne Daten an einen Server zu schicken.
Ein Modell für fünf Medienarten
EmbeddingGemma 2 basiert auf Gemma 4 und umfasst 740 Millionen Parameter. Für reine Textaufgaben genügen 270 Millionen Parameter. Bild- und Audioverarbeitung lassen sich über Encoder mit 170 beziehungsweise 300 Millionen Parametern ergänzen. Video verarbeitet das Modell anhand einzelner Frames.
Das Kontextfenster wächst gegenüber dem Vorgänger von 2.000 auf 8.000 Token. Darin finden laut Google bis zu 5,5 Minuten Audio, 29 Bilder, 58 Videoframes oder Mischungen dieser Inhalte Platz.
Anzeige
Viel Qualität für wenig Speicher
Im MTEB-Code-Benchmark steigt EmbeddingGemma 2 von 68,76 Punkten beim Vorgänger auf 78,68 Punkte. In den mitgelieferten Vergleichen für Bild- und Audio-Embeddings erreicht es unter den Modellen mit weniger als einer Milliarde Parametern jeweils den höchsten Mittelwert. Einzelne Konkurrenten schneiden etwas besser ab, sind aber drei bis zehn Mal größer.
Quelle: Google
Quantisiert belegen die Textgewichte auf einem Pixel 11 Pro rund 191 Megabyte Arbeitsspeicher. Das vollständige multimodale Modell kommt auf etwa 567 Megabyte. Damit zielt Google auf Offline-Suche, lokale RAG-Anwendungen und die Einordnung von Medien direkt auf Smartphones und anderen Geräten.
Die Modellgewichte erscheinen unter Apache 2.0 bei Hugging Face und Kaggle. Unterstützt werden unter anderem Transformers, Sentence Transformers, MLX, vLLM, llama.cpp, Ollama und LM Studio. Für Apps und Browser stehen außerdem MediaPipe, LiteRT, Transformers.js und WebGPU bereit.
