Google fordert neue Hardware für KI Agenten

Fast alle Firmen müssen ihre Systeme aufrüsten. Autonome Agenten überfordern die aktuelle Infrastruktur komplett.

Andreas Becker08.07.26 GPT-Images-2.0

Kurzfassung Quellen

Ein aktueller Google-Bericht zeigt, dass 83 Prozent der Unternehmen ihre IT-Infrastruktur für den Einsatz autonomer KI-Agenten aufrüsten müssen.
Die neuen KI-Systeme überfordern bestehende Rechenzentren durch enormen Speicherbedarf, hohe Latenzen und explodierende Stromkosten.
Google reagiert darauf mit spezialisierter Hardware wie den neuen Prozessoren TPU 8t und Axion sowie zentralen Verwaltungstools.
Für einen wirtschaftlichen Betrieb rückt zudem die dezentrale Datenverarbeitung via Edge-Computing immer stärker in den Fokus.

Google drängt Unternehmen zum raschen Umbau ihrer Rechenzentren, um autonom handelnde KI-Agenten produktiv betreiben zu können. Laut dem neuen »State of AI Infrastructure«-Bericht fordern 83 Prozent der befragten IT-Verantwortlichen fundamentale technische Upgrades für Agentic AI. Klassische Architekturen scheitern an den extremen Speicher- und Latenzanforderungen der neuen KI-Modelle.

Hohe Kosten durch autonome Berechnungen

KI-Agenten bearbeiten Aufgaben eigenständig und lösen pro Prompt hunderte nachgelagerte Aktionen aus. Sie halten dabei große Kontextfenster dauerhaft im Arbeitsspeicher. 62 Prozent der befragten Unternehmen verzeichnen dadurch explodierende Gebühren für Datenübertragungen und ineffizient genutzte Spezialhardware.

Quelle: Google

Google empfiehlt daher eine dynamische Zuweisung der Rechenleistung. Schweres Training läuft auf dedizierten Beschleunigern wie der neuen TPU 8t. Für Reaktionen in Echtzeit greifen Kunden künftig auf die TPU 8i zurück, während ARM-basierte CPUs wie Google Axion die Orchestrierung der Agenten übernehmen.

Kontrolle über verteilte KI-Akteure

Wenn tausende Agenten selbstständig E-Mails auswerten oder Datenbanken abfragen, droht rasch ein Kontrollverlust. Für 79 Prozent der Technikchefs bilden Sicherheit und Governance die größten Hürden bei der Skalierung im Unternehmen. Sie verlangen zentrale Steuerungsebenen für Berechtigungen, Identitäten und Workflows.

Mit dem Agent Gateway stellt Google eine konkrete Komponente bereit, die alle Interaktionen im Netzwerk protokolliert. Sie zwingt Agenten bei kritischen Aktionen dazu, vorab die Freigabe durch einen Menschen einzuholen. Um fragmentierte Datenbestände zu vermeiden, greifen Agenten über den Cross-Cloud Lakehouse direkt auf unstrukturierte Informationen im gesamten Unternehmensnetz zu.

Quelle: Google

Dezentrale Verarbeitung senkt Latenzen

Eine rein cloudbasierte Architektur reicht für Echtzeitanwendungen auf Dauer nicht aus. 90 Prozent der Unternehmen stufen Edge-Computing für ihre aktuellen KI-Projekte als elementar ein. Die Berechnung direkt auf Smartphones oder lokalen Servern eliminiert Latenzen bei der Sprachverarbeitung und drückt die operativen Kosten pro Token.

Parallel wächst der Druck beim Energieverbrauch, weshalb 91 Prozent der Führungskräfte die Hardwareauswahl vom Strombedarf abhängig machen. In Deutschland verlangt der Gesetzgeber von neuen Rechenzentren bereits einen maximalen PUE-Wert von 1,2. Hardware wie die TPU 8t zielt auf exakt diese engen Vorgaben ab und liefert laut Google die dreifache Leistung der Vorgängergeneration.

Eine exakt auf KI-Agenten abgestimmte Infrastruktur trennt im Jahr 2026 erfolgreiche Projekte von reinen Testläufen.