Anthropic wirbt in Washington für ein selbst entworfenes Gesetz zur Sicherheit besonders starker KI-Modelle. Die US-Regierung dürfte deren Veröffentlichung oder Einsatz erst stoppen, wenn unmittelbar mehr als eine Milliarde Dollar Schaden oder der Tod beziehungsweise die schwere Verletzung von über 50 Menschen drohen.
Nur ein Bundesrichter dürfte die Notbremse ziehen
Politico hat den vertraulichen Entwurf erhalten, den Anthropic-Vertreter Abgeordneten im US-Kongress vorgestellt haben. Die Gefahr müsste von einer biologischen Waffe, einem Cyberangriff oder einem Modell ausgehen, das sich der Kontrolle seines Entwicklers entzieht.
Unabhängige Prüfer sollen sich beim US-Handelsministerium registrieren und die Unternehmen sowie ihre stärksten Modelle regelmäßig untersuchen. Das geprüfte Unternehmen darf sie bezahlen, die Vergütung darf aber nicht vom Ergebnis abhängen. Entdeckt ein Prüfer eine unmittelbar drohende Gefahr, muss er sie innerhalb von 72 Stunden melden.
Das Handelsministerium könnte anschließend vor einem Bundesgericht in Washington beantragen, die Veröffentlichung eines Modells auszusetzen. Andere Behörden und Regierungsvertreter dürften weder seine Entwicklung noch den Einsatz oder die interne Nutzung stoppen. Damit würde Anthropic den staatlichen Eingriff auf einen einzigen engen Weg beschränken.
Anzeige
Bundesrecht soll Regeln einzelner Staaten ersetzen
Der Entwurf verlangt von Entwicklern außerdem Sicherheitskonzepte, Transparenzberichte für neue Frontier-Modelle, Schutz für Whistleblower und die Meldung schwerer Sicherheitsvorfälle. Zugleich würde das Bundesgesetz Vorschriften einzelner US-Bundesstaaten zu Risikoberichten, externen Prüfungen und Vorfallmeldungen verdrängen.
Das ist politisch heikel. Anthropic unterstützte zuvor strengere Sicherheitsgesetze in Kalifornien und warb für weitere Regeln der Bundesstaaten. Mit dem eigenen Entwurf setzt das Unternehmen nun auf einen einheitlichen nationalen Standard, der zugleich die Eingriffsmöglichkeiten der Regierung begrenzt.
