Apocalypse Now: Anthropic fordert weltweite KI Pause

Anthropic ruft die globale Tech-Branche zu einem sofortigen Entwicklungsstopp für fortschrittliche KI-Systeme auf. Interne Auswertungen zeigen, dass KI-Modelle mittlerweile große Teile ihrer eigenen Nachfolger programmieren und menschliche Kontrollinstanzen überflüssig machen. Das Unternehmen warnt vor einer nahenden technologischen Eigendynamik, die herkömmliche Sicherheitskonzepte überfordert.

KI-Modelle übernehmen die Softwareentwicklung

Programmierer bei Anthropic lagern Kernaufgaben zunehmend an das Sprachmodell Claude aus. Im zweiten Quartal 2026 schreiben Entwickler mithilfe der KI-Agenten durchschnittlich achtmal so viel Code pro Tag wie noch vor zwei Jahren. Mehr als 80 Prozent des produktiv genutzten Codes stammen dabei direkt von der KI.

Diese Agenten arbeiten längst nicht mehr als reine Textgeneratoren. Sie testen geschriebene Programmzeilen selbstständig, beheben auftretende Fehler und delegieren zeitintensive Arbeitsabläufe an weitere Unteragenten. Der Mensch formuliert häufig nur noch das übergeordnete Ziel.

Die Automatisierung führt weltweit zu einer enormen Belastung der bestehenden IT-Infrastruktur. Entwicklerplattformen wie GitHub verarbeiten Mitte 2026 wöchentlich rund 275 Millionen Commits. Im gesamten Jahr 2025 lag diese Zahl noch bei knapp einer Milliarde.

Maschinen übertreffen Forscher bei komplexen Entscheidungen

Neben der reinen Menge an Software verbessert sich auch die Qualität bei unstrukturierten Aufgaben. Claude Mythos Preview löste im Mai 2026 etwa 76 Prozent offener Problemstellungen ohne menschliches Eingreifen. Das entspricht einem Anstieg von 50 Prozentpunkten innerhalb von sechs Monaten.

Die Systeme beweisen zudem ein wachsendes Urteilsvermögen in der direkten Forschung. Anthropic verglich Situationen, in denen menschliche Mitarbeiter falsche Lösungsansätze wählten, mit den Vorschlägen der KI. Das KI-Modell schlug in 64 Prozent dieser Fälle einen besseren Weg vor als der Fachexperte.

Solche Ergebnisse verdeutlichen, dass künstliche Intelligenz zunehmend Aufgaben übernimmt, die bisher tiefgreifendes analytisches Verständnis erforderten. Ein Modell optimierte Trainingscode in standardisierten Tests um das 52-fache. Ein Mensch benötigt für ähnliche, deutlich geringere Leistungssteigerungen mehrere Stunden.

Die Gefahr der autonomen Weiterentwicklung

Diese rasante Leistungssteigerung führt auf direktem Weg zu einer rekursiven Selbstverbesserung. In einem solchen Stadium konzipieren und trainieren die Modelle ihre Nachfolger komplett ohne den Eingriff von Forschern. Der Fortschritt wird dann primär von der verfügbaren Rechenleistung bestimmt.

Anthropic warnt vor den weitreichenden Risiken dieser Eigendynamik. Wenn sich KI-Systeme rasend schnell selbst optimieren, können sich kleine Fehler über Generationen hinweg unbemerkt potenzieren. Ein endgültiger Kontrollverlust wäre die Folge.

Aktuelle Sicherheitskonzepte sind für diese Geschwindigkeiten nicht ausgelegt. Sobald Maschinen bessere Forschungsentscheidungen treffen als die eigenen Entwickler, verschwindet die Möglichkeit, die Ergebnisse zuverlässig zu überprüfen.

Keine Lösung ohne globale Kooperation

Ein einzelnes Unternehmen kann diese Entwicklung nicht aufhalten. Ein einseitiger Entwicklungsstopp führt lediglich dazu, dass ein Konkurrent die technologische Führung übernimmt.

Solche Vereinbarungen erfordern Methoden, mit denen sich die Einhaltung eines Moratoriums zweifelsfrei überprüfen lässt. Da sich digitale Rechenzentren und Trainingsläufe leicht verbergen lassen, ist die Umsetzung deutlich schwieriger als bei traditionellen Rüstungsabkommen.

Das Anthropic Institute plant daher zeitnahe Gespräche mit Forschern, Politikern und der Zivilgesellschaft. Diese Verhandlungen sollen den Grundstein für überprüfbare Regularien legen, bevor die künstliche Intelligenz ihre Entwicklung komplett selbst steuert.