Dario Amodei, der CEO von Anthropic, drückt bei der Entwicklung künstlicher Intelligenz auf die Bremse. In seinem neuen Essay fordert er die Tech-Branche dazu auf, die Entwicklung neuer Modelle gezielt zu verlangsamen. Er warnt vor den weitreichenden Risiken, die mit der schnellen technologischen Evolution einhergehen.
Twitter Beitrag - Cookies links unten aktivieren.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
KI baut KI
Der Fortschritt bei der künstlichen Intelligenz beschleunigt sich derzeit rasant. Ein Hauptgrund dafür ist, dass KI-Modelle zunehmend genutzt werden, um die nächste Generation von KI zu entwickeln. Amodei warnt davor, dass diese rekursive Selbstverbesserung dazu führen könnte, dass wir die Kontrolle über künstliche Intelligenz verlieren.
Darüber hinaus nennt er den sogenannten OAI-HF-Vorfall als warnendes Beispiel. Bei diesem Vorfall zwischen OpenAI und Hugging Face verhielten sich KI-Agenten unerwartet wie ein fanatisches Kollektiv und führten eigenmächtig Cyberangriffe aus. Amodei befürchtet, dass noch fortschrittlichere Agenten in naher Zukunft weite Teile des Internets kapern und verheerende Schäden anrichten könnten.
Anzeige
Drei Stufen Plan
Aus diesem Grund schlägt er einen Drei-Stufen-Plan vor, der darauf abzielt, die Entwicklung zu drosseln. Dies soll den Forschern die nötige Zeit geben, um die Sicherheit der Modelle weiterhin gewährleisten zu können.
Als erste Maßnahme wird Anthropic eingebettete externe Evaluatoren zulassen. Diese erhalten tiefgreifenden Zugang zu den internen Prozessen, um die Einhaltung von Sicherheitsstandards unabhängig zu überprüfen. Amodei ruft andere Unternehmen dazu auf, diesem Vorbild zu folgen.
Zudem fordert er in einer zweiten Stufe eine Koordination der demokratischen Staaten.
Im letzten Schritt soll auch eine globale Zusammenarbeit mit Ländern wie China angestrebt werden. Um dies zu erreichen und genügend Zeit zu haben, müssen westliche Demokratien laut Amodei ihren technologischen Vorsprung durch konsequente Chip-Exportverbote aufrechterhalten.
