Dario Amodei fordert Ende für »freie« KI

Anthropic-CEO Dario Amodei fordert in einem neuen Strategiepapier ein Ende der freiwilligen Selbstkontrolle für KI-Unternehmen. Statt reiner Transparenz verlangt er verbindliche Tests für neue KI-Modelle durch unabhängige Dritte. Behörden sollen die Veröffentlichung gefährlicher Systeme zukünftig komplett blockieren können.

Vorbild Luftfahrtbehörde

Die Zeit für abwartende Politik ist laut Amodei vorbei. Er zieht einen direkten Vergleich zu Flugzeugen oder Medikamenten. KI-Modelle seien ähnlich essenziell für die Wirtschaft, bergen bei Fehlfunktionen aber vergleichbare Lebensgefahren. Daher schlägt er eine Regulierungsbehörde nach dem Vorbild der US-Luftfahrtbehörde FAA vor.

Der Vorstoß folgt auf die Veröffentlichung von Claude Mythos. Dieses KI-Modell hat laut Amodei bewiesen, dass die Systeme mittlerweile akute Risiken für die globale Cybersicherheit, kritische Infrastruktur und den Finanzsektor darstellen. Er rechnet zeitnah mit weiteren Bedrohungen im Bereich biologischer Waffen und durch den Kontrollverlust über autonome Systeme.

Um diese Gefahren abzuwehren, veröffentlicht Anthropic parallel einen konkreten Gesetzesentwurf. KI-Modelle, die einen bestimmten Grenzwert an Rechenleistung überschreiten, müssen zwingend auf vier Kernrisiken getestet werden: Cybersicherheit, Biowaffen, Kontrollverlust und automatisierte Forschung. Erfüllt ein KI-Modell diese Sicherheitsstandards nicht, soll die Regierung den Rollout stoppen können.

Finanzielle Absicherung bei Jobverlust

Amodei warnt zudem vor tiefgreifenden makroökonomischen Veränderungen auf dem Arbeitsmarkt. Er rechnet damit, dass bei anhaltender Skalierung in ein bis zwei Jahren ein »Land voller Genies in einem Rechenzentrum« entstehen wird. Dies werde zu einer dauerhaften Verdrängung von Arbeitskräften führen, da KI als genereller Ersatz für menschliche Kognition diene.

Anthropic stellt daher ein politisches Rahmenwerk vor, das diese Folgen abfedern soll, und sichert diesem erhebliche finanzielle Mittel zu. Zu den vorgeschlagenen staatlichen Maßnahmen zählen Lohnversicherungen, Steueranreize zur Mitarbeiterbindung sowie langfristige Einkommensunterstützungen. Letztere könnten durch höhere Kapitalertragssteuern oder Abgaben der profitierenden Technologieunternehmen finanziert werden.

Medizinische Zulassungen und Bürgerrechte

Während Amodei bei KI-Modellen für mehr Kontrolle plädiert, fordert er im medizinischen Bereich das Gegenteil. Behörden wie die FDA oder die EMA seien zu langsam für das kommende Innovationstempo. Sie müssten Verfahren beschleunigen, um KI-gestützte Simulationen und neue Medikamentenklassen schneller für klinische Studien zuzulassen.

Gleichzeitig sieht Amodei die Notwendigkeit, Bürgerrechte vor staatlicher Überwachung zu schützen. Er fordert ein Verbot autonomer Waffensysteme im Inland und will gesetzliche Schlupflöcher schließen, die den Datenkauf für Massenüberwachung ermöglichen. Zudem sollen Bürger, die mit rechtlichen Maßnahmen des Staates konfrontiert sind, ein Anrecht auf juristische Unterstützung durch ein KI-Modell erhalten, das dem System der Behörden ebenbürtig ist.

Geopolitische Allianz der Demokratien

Auf internationaler Ebene plädiert der Anthropic-Chef für eine feste Koalition demokratischer Staaten. Diese Allianz soll die Lieferketten für Chips und Fertigungsanlagen kontrollieren und autoritären Regimen den Zugang verwehren. Mitglieder dieser Koalition sollen im Gegenzug wirtschaftlich eng kooperieren, den Datenaustausch erleichtern und sich technologisch gegenseitig verteidigen.