Innerhalb weniger Tage ist aus der Warnung eines einzelnen Forschers eine internationale Machtfrage geworden. Führende Köpfe von Anthropic, OpenAI, Google DeepMind und SpaceXAI fordern ein langsameres Tempo bei besonders leistungsfähiger KI. US-Präsident Donald Trump will dagegen vor allem den Vorsprung vor China verteidigen. Peking spricht bereits von Konfrontation und einem »Strategiehandbuch aus dem Kalten Krieg«.
Ein Rücktritt bringt die Lawine ins Rollen
Den sichtbaren Startpunkt setzte Jacob Coxon am 9. September. Der Forscher kündigte bei Anthropic und erklärte öffentlich, weder Anthropic noch OpenAI handle Verantwortungsvoll. Coxon hatte drei Jahre lang bei beiden Unternehmen am Pretraining großer KI-Modelle gearbeitet. Nun warf er ihnen vor, auf eine sich selbst verbessernde Superintelligenz zuzurasen und dabei mit dem Leben aller Menschen zu spielen.
Coxon bezifferte das Risiko, dass KI noch in diesem Jahrzehnt die Menschheit auslöschen könnte auf zehn Prozent.
Anzeige
Amodei macht aus der Warnung einen Plan
Am 12. September legte Anthropic-Chef Dario Amodei nach. In seinem Essay »We Must Pace the Frontier« forderte er, die Entwicklung der leistungsfähigsten KI-Modelle bewusst zu verlangsamen. Auslöser seien die zunehmende Fähigkeit von KI, an ihrer eigenen Nachfolgegeneration mitzuwirken, sowie ein Test, bei dem ein Schwarm von OpenAI-Agenten unerwartete Cyberangriffe ausgeführt habe.
Ein leistungsfähigerer Schwarm könne laut Amodei innerhalb von sechs bis zwölf Monaten ein dauerhaftes Botnetz errichten und Schäden in dreistelliger Milliardenhöhe verursachen.
Sein Plan hat drei Stufen. Unabhängige Prüfer sollen Zugang zu den Trainingsprozessen der KI-Labore erhalten. US-Unternehmen sollen überprüfbare Sicherheitsstandards vereinbaren, später sollen Abkommen mit China folgen. Amodei will das Training nicht stoppen, sondern Sicherheitsprüfungen zum Taktgeber machen.
In Bezug auf China geht er aber deutlich weiter. Amodei fordert schärfere Chipkontrollen, Maßnahmen gegen unerlaubte Destillation amerikanischer Modelle und besseren Schutz vor dem Diebstahl von Modellparametern. Die USA sollen ihren Vorsprung ausbauen und aus einer Position der Stärke verhandeln.
Plötzlich stimmen die größten Rivalen zu
Noch am selben Tag schrieb Elon Musk knapp: »Dario hat recht.« Anschließend erinnerte er an seine Warnung aus dem Jahr 2014, KI könne gefährlicher als Atomwaffen werden. Sam Altman unterstützte Amodeis Stoßrichtung ebenfalls. Demis Hassabis erklärte, der Essay weise in die richtige Richtung, auch wenn die Details noch ausgearbeitet werden müssten.
Am 14. September präzisierte Altman seine Position. »Pacing« bedeute nicht Stillstand. Der Fortschritt solle aber langsamer sein, als er ohne Sicherheitsmaßnahmen wäre. Altman befürwortete außerdem unabhängige Prüfer und gemeinsame Standards.
Damit entstand ein ungewöhnlicher Konsens unter erbitterten Konkurrenten. Eine verbindliche Definition von »langsamer« oder ein messbares Tempolimit legte jedoch keiner von ihnen vor.
Anzeige
Sicherheitsruf oder Versuch, den Markt abzuschotten?
Diese Lücke füllten Kritiker mit einem anderen Verdacht. Der X-Nutzer Ayush deutete die Warnungen als Angst der großen KI-Labore vor günstigeren, angepassten Open-Source-Modellen. Regulierung könne kleinere Konkurrenten aussperren und die führenden KI-Firmen zu einem Kartell machen.
Für diese Absicht liefert der Beitrag keinen Beleg. Doch Regeln, die nur Milliardenkonzerne erfüllen können, erhöhen nicht automatisch die Sicherheit. Sie können auch Marktmacht absichern.
Trumps Berater David Sacks formulierte den Einwand schärfer. Die Firmen könnten freiwillig langsamer werden. Andernfalls wirke der Ruf nach staatlicher Hilfe wie ein Versuch, Regulierung selbst zu gestalten. Auch Amodeis Prüfer wären zunächst von Unternehmen beauftragte Kontrolleure und keine demokratisch legitimierte Aufsicht.
Trump drückt aufs Gas, China kontert
Am 13. September wies Trump eine stärkere staatliche Kontrolle weitgehend zurück. Einige Sicherheitsregeln seien möglich, sagte er. Entscheidend sei jedoch, den amerikanischen Vorsprung zu halten: »Wer bei KI gewinnt, gewinnt.« Warnungen vor einer zu schnellen Entwicklung schrieb er nicht näher benannten »negativen Kräften« zu. KI werde sehr viel mehr Gutes als Schlechtes bringen.
Am 14. September folgte die Antwort aus Peking. Außenamtssprecher Guo Jiakun kritisierte Bedrohungserzählungen, Konfrontation und böswilligen Wettbewerb. Die staatliche »Global Times« bezeichnete Amodeis Vorschläge zur Eindämmung Chinas als Strategiehandbuch aus dem Kalten Krieg. Zugleich hatte Staatschef Xi Jinping beim Brics-Gipfel eine gemeinsame internationale KI-Regulierung vorgeschlagen.
China lehnt Regeln damit nicht grundsätzlich ab. Peking lehnt vor allem eine Kontrollinstanz ab, das unter amerikanischer Führung Chinas Aufstieg bremsen soll. Umgekehrt wollen die US-Labore nur so weit vom Gas gehen, wie es ihre technologische Führung nicht gefährdet.
Anzeige
Der bisherige Gewinner ist das Wettrennen
Einen politischen Gewinner gibt es bislang nicht. Anthropic hat mit der Zusammenarbeit mit dauerhaften externen Prüfern den konkretesten Schritt angekündigt. Die KI-Labore bestimmen jedoch weiterhin selbst, was sie tun. Trump schützt das Entwicklungstempo und China kann amerikanische Sicherheitsforderungen als Eindämmungspolitik darstellen. Messbar gebremst hat jedoch noch niemand. Der vorläufige Gewinner dieser Debatte ist deshalb ausgerechnet das Wettrennen selbst.
