OpenAI will Australiens geplante Online-Sicherheitsregeln mit einem eigenen Jugendschutzplan für KI mitgestalten. Der am 18. September veröffentlichte »Australian Youth Safety Blueprint« nennt sechs Säulen, die Anbieter und Politiker aus Sicht des Konzerns beachten sollen. Im Mittelpunkt stehen eine Alterserkennung, strengere Voreinstellungen für Minderjährige und Hilfen in Krisensituationen.
Der Konzern verknüpft den Vorstoß mit Australiens Entwurf für eine digitale Fürsorgepflicht. Das Gesetz soll Online-Dienste verpflichten, vorhersehbare Schäden zu erkennen und zu begrenzen. Noch befindet es sich in der öffentlichen Beratung.
ChatGPT entscheidet im Zweifel auf jünger
OpenAI hat in Australien bereits im August damit begonnen, ChatGPT für erkannte Nutzer zwischen 13 und 17 Jahren auf eine eigene, stärker geschützte Version umzustellen. Kann das Alter nicht sicher bestimmt werden, wählt ChatGPT zunächst diese Variante. Falsch eingestufte Erwachsene können ihr Alter mit einem Selfie beim Identitätsdienst Persona bestätigen. OpenAI erhält das Bild nicht, Persona löscht die Daten innerhalb von sieben Tagen.
Zu den sechs vorgeschlagenen Säulen gehören außerdem KI-Bildung an Schulen, besondere Sicherheitsregeln für Minderjährige, Schutz vor manipulativen Antworten, ein Krisenprotokoll und Elternkontrollen. Chatbots sollen weder emotionale Abhängigkeit fördern noch Jugendliche zum Verschweigen von Gesprächen verleiten. Ebenso sollen sie nicht den Eindruck erwecken, bewusst, ein romantischer Partner oder eine menschliche Autorität zu sein.
Anzeige
Eltern sollen Warnungen erhalten
Bei erkennbarer Suizidabsicht sollen verknüpfte Elternkonten standardmäßig eine Warnung erhalten. OpenAI fordert außerdem einstellbare Ruhe- und Lernzeiten sowie Kontrollen für Erinnerung, Chatverlauf und Standortdaten.
Für Anbieter sieht der Plan regelmäßige Risikoprüfungen und unabhängige Kontrollen vor. Deren Ergebnisse sollen sie allgemein verständlich veröffentlichen. Zugleich lehnt OpenAI fest vorgeschriebene technische Maßnahmen ab und wirbt für Pflichten, die sich nach Funktion und Risiko eines Dienstes richten. Die australische Regierung nimmt noch bis zum 22. September Stellungnahmen zu ihrem Gesetzentwurf an.
