Ein Gemini Modul und ein Chip

Google gießt Gemini direkt ins Silizium

Der neue Spezialchip Frozen v2 soll Modelle extrem sparsam ausführen und die Kapazitätsengpässe bei Google Cloud lösen.

Andreas Becker GPT-Images-2.0
Ein Gemini Modul und ein Chip

Google entwickelt den neuen Serverchip »Frozen v2«, der Teile des KI-Modells Gemini direkt in die Hardware integriert. Dieser Architekturkniff soll die Inferenz beschleunigen und den Energiebedarf bei der KI-Generierung drastisch senken.

Architektur fest verschaltet

Bislang arbeiten KI-Modelle auf Hardware, die Informationen stetig im Speicher hin- und herbewegt, was Strom und Rechenzeit kostet. Bei »Frozen v2« brennt Google die Basisstruktur des neuronalen Netzes stattdessen fest in die physischen Schaltkreise.

Laut einem Bericht von The Information peilt Google den Einsatz für das Jahr 2028 an. Der Spezialchip soll pro Watt sechs- bis zehnmal mehr Token verarbeiten als die neuesten Tensor Processing Units (TPU). Er ist als Ergänzung zur bestehenden Hardware geplant, nicht als Ersatz.

Anzeige

Volle Auslastung der Cloud

Googles eigener KI-Bedarf verschlingt intern aktuell so viel Rechenleistung, dass die Cloud-Sparte sogar Verträge mit externen Kunden ablehnen musste. Anleger werteten die Lösungspläne positiv, die Alphabet-Aktie stieg im frühen Handel um gut drei Prozent.

Der Preis der Spezialisierung

Die hohe Effizienz erkauft sich Google durch strukturelle Starrheit. Wenn die Architektur des Modells im Silizium verankert ist, lässt sie sich nachträglich nicht mehr umbauen.

Entwickler können später zwar aktualisierte Parameter und Gewichte laden, die Basisstruktur von Gemini bleibt auf diesem Chip jedoch fixiert. Kommende Gemini-Versionen müssen zwingend auf dieser bestehenden Struktur aufbauen, um die neue Hardware nutzen zu können.

KI-Wissen mit menschlicher Note

Wir arbeiten wie die großen Magazine: KI-gestützt, aber jeder Text wird von echten Menschen geprüft und optimiert. Was uns unterscheidet? Bei uns gibt es keine Paywall!

Jeder Beitrag zählt – auch das Teilen.