Kalifornien dreht an KI-Regeln: Anthropic stützt SB 53

Transparenz statt Technik-Diktat: 15-Tage-Meldepflicht, Whistleblower-Schutz und klare Berichte.

gpt-image-1 | All-AI.de

Kalifornien startet den nächsten Versuch, den Umgang mit mächtigen KI-Systemen zu regulieren – diesmal mit weniger Technikauflagen und mehr Offenheit. Der Gesetzesentwurf SB 53 verlangt von großen KI-Entwicklern künftig nachvollziehbare Sicherheitskonzepte, Transparenzberichte vor dem Launch und eine Pflicht zur Meldung schwerwiegender Vorfälle binnen 15 Tagen. Unterstützt wird der Ansatz vom KI-Unternehmen Anthropic – ein Signal, das auch bei Wettbewerbern für Aufmerksamkeit sorgt.

Transparenz statt Detailvorgaben

SB 53 zielt auf sogenannte „Frontier“-Modelle ab – also KI-Systeme, die besonders rechenintensiv trainiert wurden. Unternehmen mit mehr als 500 Millionen Dollar Umsatz, die solche Modelle entwickeln, müssen künftig offenlegen, wie sie mit potenziellen Katastrophenrisiken umgehen. Dazu gehört ein veröffentlichter Sicherheitsrahmen ebenso wie ein Transparenzbericht, der vor oder zeitgleich mit der Einführung eines neuen Modells erscheinen muss.

Das Gesetz setzt klare Grenzen: Von einem „katastrophischen Risiko“ ist die Rede, wenn durch ein Modell mehr als 50 Menschen zu Schaden kommen könnten oder finanzielle Schäden von über einer Milliarde Dollar drohen. In solchen Fällen gilt eine Meldefrist von 15 Tagen – nicht an die Staatsanwaltschaft, sondern an Kaliforniens Katastrophenschutzbehörde. Unternehmen müssen zudem Hinweisgeber schützen und interne Kanäle für anonyme Meldungen einrichten.

Warum Anthropic das Gesetz unterstützt

Noch vor einem Jahr scheiterte ein ähnlicher Gesetzesentwurf (SB 1047) am Widerstand von Gouverneur Newsom – zu technisch, zu bürokratisch, zu wenig konsensfähig. SB 53 geht nun den Weg der Offenheit: weniger technische Vorgaben, dafür ein Rahmen, der sich an bewährten Branchenstandards orientiert. Genau das empfiehlt auch die von Newsom einberufene Expertengruppe zur KI-Politik – Vertrauen ja, aber mit Kontrolle.

Anthropic begrüßt den Entwurf und verweist darauf, dass viele der neuen Vorgaben ohnehin schon Praxis seien. Das Unternehmen veröffentlicht etwa regelmäßig Risikoanalysen und technische Systembeschreibungen. Der gesetzliche Rahmen könne zudem verhindern, dass Firmen aus Wettbewerbsgründen bei Sicherheit und Offenheit Abstriche machen.

Ein Kompromiss mit politischen Chancen

SB 53 wurde in den letzten Wochen in wichtigen Punkten nachjustiert. Die Schwellenwerte sind nun klar definiert, der Meldeweg wurde vereinfacht und kleinere Unternehmen sind von den Pflichten ausgenommen. Damit wächst die Chance, dass der Entwurf auch politisch durchkommt – als pragmatischer Kompromiss zwischen Innovationsfreiheit und öffentlichem Schutzinteresse.

Zwar gibt es weiterhin Kritik aus Teilen der Tech-Industrie, die vor wachsendem Aufwand und unnötiger Regulierung warnen. Doch die Richtung ist gesetzt: Kalifornien will bei der Kontrolle von Hochrisiko-KI nicht länger zusehen – sondern handeln, bevor es zu spät ist.

Kostenlose News und Tutorials – mit minimaler Werbung und maximalem Mehrwert. Damit das so bleibt und wir uns stetig verbessern können, freuen wir uns über deine Unterstützung.

Teile diesen Beitrag

Folge uns auf Social Media

Keine KI-News mehr verpassen und direkt kommentieren!

Unterstütze uns direkt

Mit einer YouTube-Mitgliedschaft (ab 0,99 €) oder einmalig über PayPal. So helft ihr uns, unabhängig neue Tools zu testen und noch mehr Tutorials für euch zu erstellen. Vielen Dank für euren Support!