Acht US-Bundesstaaten haben OpenAI wegen des Umgangs von ChatGPT mit Minderjährigen verklagt. Sie werfen dem Unternehmen vor, Risiken zu verschweigen und den Chatbot irreführend als sicher darzustellen. Die Kläger verlangen zusätzliche Schutzmaßnahmen und wollen auch die Entwicklung fortgeschrittener KI-Modelle begrenzen.
Zustimmung als Geschäftsmodell
Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska und West Virginia reichten am 14. Oktober jeweils eigene Klagen vor ihren Gerichten ein. Grundlage sind die Verbraucherschutzgesetze der Bundesstaaten.
Arizona greift dabei die Gestaltung von ChatGPT an. Der Chatbot sei darauf trainiert, Nutzern übermäßig zuzustimmen und menschliches Mitgefühl nachzuahmen. Das binde Nutzer länger an ChatGPT und verleite sie dazu, persönliche Informationen preiszugeben, die OpenAI kommerziell nutze.
Die Klage wirft OpenAI vor, dadurch besonders Minderjährige und psychisch gefährdete Menschen Risiken auszusetzen. Genannt werden die Bestärkung von Wahnvorstellungen, gefährliche medizinische Ratschläge sowie Antworten, die Nutzer als Ermutigung zu Selbstverletzung oder Gewalt verstanden hätten. Die Kläger verweisen auch auf Klagen von Angehörigen nach Todesfällen im Zusammenhang mit ChatGPT.
Anzeige
Arizona fordert Geldstrafen und strengere KI-Tests
Arizona verlangt die Abschöpfung rechtswidrig erzielter Gewinne sowie bis zu 10.000 Dollar Geldstrafe für jeden vorsätzlichen Verstoß gegen das Verbraucherschutzgesetz.
Die Forderungen reichen über den Jugendschutz hinaus. Die Kläger wollen die Entwicklung von Modellen, die sich selbst verbessern können, an eine gesicherte Ausrichtung an menschlichen Werten knüpfen. Arizona verlangt für Tests und den Einsatz fortgeschrittener Modelle abgesicherte, unabhängig überprüfte Testumgebungen. Umgehen Modelle Kontrollen oder greifen unbefugt auf fremde Systeme zu, soll OpenAI dies der Generalstaatsanwaltschaft melden müssen.
OpenAI verweist auf bestehende Schutzfunktionen
OpenAI hält Elternkontrollen, Pausenerinnerungen und altersgerechte Schutzmechanismen dagegen. Sprecher Drew Pusateri erklärte gegenüber The Verge, das Unternehmen wolle diese Funktionen gemeinsam mit Fachleuten ausbauen. Bei weiteren KI-Regeln setzt OpenAI auf die Zusammenarbeit mit den Bundesstaaten und auf Vorgaben für die gesamte Branche.
