OpenAI hat erste Testergebnisse zu seinem eigenen KI-Chip »Jalapeño« veröffentlicht. Er verarbeitet Anfragen deutlich schneller als bisherige Hardware und benötigt dafür auch noch weniger Strom. Erste Einheiten sollen Ende des Jahres genutzt werden.
Mehr Leistung, weniger Verbrauch
Jalapeño ist auf Inferenz optimiert – also auf das Anwenden trainierter KI-Modelle. OpenAI hat ihn unter anderem mit GPT-OSS 120B, DeepSeek R1 und Kimi K2.5 getestet.
Bei diesen Modellen lieferte der Chip bei maximalem Durchsatz eine 1,5- bis 1,9-fach höhere Leistung pro Watt als bisherige Spitzensysteme. Bei interaktiven Aufgaben stieg der Wert sogar um das 2,1- bis 4,1-Fache.
Gleichzeitig sank die Latenzzeit um den Faktor 1,7 bis 3,6. Für Nutzer bedeutet das kürzere Wartezeiten. Das ist besonders bei autonomen KI-Agenten wichtig, da sich bei vielen aufeinanderfolgenden Teilschritten kleine Verzögerungen schnell aufsummieren.
Quelle: OpenAI
Hardware und Software verzahnt
Dieser Effizienzgewinn entsteht, weil OpenAI Modelle, Software, Netzwerkarchitektur und den Chip gemeinsam als Gesamtsystem entwickelt.
Jalapeño speichert Zwischendaten bei der Texterzeugung direkt lokal ab. Das minimiert Datenbewegungen und Rechenpausen, die bei bisherigen Architekturen den Prozess oft ausbremsen.
Schon bei der Entwicklung des Chips halfen KI-Modelle. Sie verkürzten die Zeit von ersten Entwürfen bis zur Produktionsreife auf nur neun Monate.
Anzeige
Einsatz ab Jahresende
Der nominelle Stromverbrauch von Jalapeño liegt bei 700 Watt. In den Tests blieb der Dauerverbrauch laut OpenAI jedoch stets unterhalb von 550 Watt.
Die Struktur des Chips erleichtert zudem die Anpassung neuer Modelle. Mit dem Modell Codex passten Entwickler drei externe Sprachmodelle innerhalb von zwei Monaten für die neue Architektur an.
Bis Ende des Jahres integriert das Unternehmen Jalapeño in die eigene Rechnerinfrastruktur. Die zweite und dritte Generation befinden sich bereits in der Planung.
Dennoch wird OpenAI weiterhin Beschleuniger von Nvidia und anderen Herstellern einsetzen. Der eigene Rechenbedarf ist so hoch, dass alle verfügbaren Quellen benötigt werden.
