Der KI-Entwickler Jacob Coxon hat bei Anthropic gekündigt. Er wirft seinem ehemaligen Arbeitgeber sowie OpenAI vor, in einem unkontrollierten Wettlauf das Überleben der Menschheit zu riskieren. Die Branche arbeite an einer KI, die bald außer Kontrolle geraten könnte.
Kritik an verantwortungslosem Handeln
Coxon arbeitete drei Jahre lang bei OpenAI und Anthropic an dem Training großer KI-Modelle. Auf der Plattform X schreibt er, beide Firmen handelten unverantwortlich und steuerten direkt auf eine sich selbst verbessernde Superintelligenz zu.
Die aktuellen Modelle stünden an der Schwelle zu übermenschlichen Fähigkeiten. Sie könnten laut Coxon bald beliebige Hardware-Systeme hacken und echte Macht an sich reißen. Der Forscher betont, die beteiligten Entwickler glaubten ernsthaft daran, dass ihre eigene Arbeit die Menschheit bis Ende des Jahrzehnts auslöschen könnte.
Twitter Beitrag - Cookies links unten aktivieren.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Unterschiedliche Firmenkulturen
Dabei unterscheidet Coxon zwischen den zwei führenden KI-Laboren: Bei OpenAI hätten viele Mitarbeiter die zivilisatorischen Risiken noch nicht verinnerlicht. Bei Anthropic seien diese Gefahren zwar bekannt, das Unternehmen sehe sich aber in einem Zugzwang.
Die Führungskräfte dort glauben, dass Konkurrenten nicht verantwortungsvoll handeln. Deshalb müsse Anthropic das Rennen gewinnen. Coxon bezeichnet diese Einstellung als überhebliches Glücksspiel. Er fordert, ein solches Risiko dürfe nicht »aus dem Slack eines privaten Unternehmens heraus« gestartet werden.
Anzeige
Die Furcht vor dem Kontrollverlust
Die Furcht der Wissenschaftler dreht sich konkret um die sogenannte rekursive Selbstverbesserung. Dabei optimieren KI-Modelle ihren eigenen Code und entwickeln sich ohne menschliches Zutun weiter. Coxon warnt davor, derartige Trainingsläufe zu starten, solange man den Verstand der KI nicht vollständig durchdrungen hat.
Er steht mit seinen Bedenken nicht allein da. Evan Hubinger, ein Sicherheitsforscher bei Anthropic, schätzt die Wahrscheinlichkeit auf über zehn Prozent, dass eine falsch ausgerichtete KI die Menschheit in den nächsten zehn Jahren vernichtet. Auch Forscher anderer Entwickler warnten zuletzt vor einem zu schnellen Skalieren der Rechenleistung.
Internationale Koordination als Ausweg
Als Ausweg hofft Coxon auf eine internationale Koordination. Warnschüsse wie der jüngste Angriff auf die KI-Plattform Hugging Face hätten Abkommen über eine Drosselung des Entwicklungstempos zwischen den Laboren realistischer gemacht.
Derzeit läuft aber alles noch auf einen Wettlauf wie bei der Atombombe hinaus. Niemand wird als Erster stoppen...
