Die neue ChatGPT-Kindersicherung

OpenAI gibt Eltern die Kontrolle. Was die neuen Funktionen können, welche Grenzen sie haben und warum sie jetzt eingeführt werden.

gpt-image-1 | All-AI.de

Eine Klage im Zusammenhang mit dem Suizid eines Teenagers zwingt OpenAI zum Handeln. Das KI-Unternehmen führt weitreichende Jugendschutzfunktionen für ChatGPT ein, die Eltern erstmals detaillierte Kontrollmöglichkeiten geben. Die Maßnahmen sind eine direkte Reaktion auf den wachsenden Druck von Behörden und der Öffentlichkeit. Sie sollen die Nutzung des Chatbots für Minderjährige sicherer machen, doch die Technologie wirft zugleich neue Fragen auf.

Verknüpfte Konten und elterliche Kontrolle

Das Kernstück der neuen Sicherheitsmaßnahmen ist die Möglichkeit, Eltern- und Jugendkonten miteinander zu verknüpfen. Sobald diese Verbindung besteht, greifen für den Account des Teenagers automatisch verschärfte Schutzfilter. Diese reduzieren laut OpenAI grafische Darstellungen und unterbinden unerwünschte Rollenspiele mit romantischen oder gewalttätigen Inhalten. Auch Inhalte zu extremen Schönheitsidealen werden eingeschränkt, um ein altersgerechtes Erlebnis zu gewährleisten.

Über ein neues Kontroll-Panel können Eltern zudem gezielte Einstellungen vornehmen. Dazu gehören die Festlegung von Ruhezeiten, in denen der Chatbot nicht verfügbar ist, sowie das Deaktivieren der Bildgenerierung und des Sprachmodus. Auch die Gedächtnisfunktion lässt sich abschalten. Wichtig für die Privatsphäre der Jugendlichen: Eltern erhalten keinen direkten Einblick in die Chatverläufe ihrer Kinder, es sei denn, ein Notfall wird erkannt.

Automatisches Warnsystem bei psychischen Krisen

Besonders kontrovers ist ein neues Notfallsystem, das bei Anzeichen für eine akute psychische Krise aktiv wird. Erkennt der Chatbot Hinweise auf Selbstverletzungsabsichten, informiert das System die Eltern automatisch per E-Mail, SMS und Push-Nachricht. Entwickelt wurde diese Funktion in Zusammenarbeit mit Experten für mentale Gesundheit. Die Benachrichtigung der Eltern enthält nur die nötigsten Informationen, um die Privatsphäre des Teenagers zu schützen.

OpenAI behält sich sogar vor, in Extremfällen Behörden einzuschalten, falls die Eltern nicht erreichbar sind und eine akute Lebensgefahr besteht. Das Unternehmen räumt ein, dass das System nicht fehlerfrei arbeiten und Fehlalarme auslösen könnte. Man sei aber überzeugt, dass es besser sei, in solchen Momenten zu handeln, als untätig zu bleiben. Auslöser für diese Entwicklung ist unter anderem die Klage der Eltern eines 16-jährigen Kaliforniers, der sich das Leben nahm. Sie werfen dem Unternehmen vor, ChatGPT habe ihren Sohn beim Schreiben eines Abschiedsbriefes unterstützt.

Branchenweiter Trend zum Jugendschutz

OpenAI steht mit seinen Bemühungen nicht alleine da. Auch andere Technologiekonzerne verschärfen die Schutzmaßnahmen für ihre KI-Angebote. Der Facebook-Mutterkonzern Meta trainiert seine Chatbots bereits darauf, Gespräche über Selbstverletzung zu vermeiden und nicht mit Minderjährigen zu flirten. Die Chatbot-Plattform Character.AI hat ebenfalls umfassende Elternkontrollen für 2025 angekündigt, nachdem das bisherige System als zu leicht umgehbar kritisiert wurde.

Für die Zukunft plant OpenAI zudem ein System zur automatischen Altersschätzung, das bei Unsicherheit standardmäßig die sichereren Einstellungen für Jugendliche aktiviert. Diese Entwicklungen stehen im Einklang mit den Forderungen europäischer Regulierungen wie dem Digital Services Act und dem KI-Gesetz, die einen besseren Schutz von Minderjährigen im Netz vorschreiben. Experten bewerten die neuen Funktionen als wichtigen ersten Schritt, betonen aber, dass der direkte Dialog zwischen Eltern und Kindern durch keine Technik ersetzt werden kann.

Hat Dir der Beitrag gefallen oder geholfen? Dann hilf uns mit einem Klick weiter - dauert nur Sekunden.

Teile diesen Beitrag

Folge uns auf Social Media

Unterstütze uns direkt

KI-Tools sind teuer – unser Wissen bleibt kostenlos. Spende einmalig via PayPal oder werde YouTube-Mitglied (ab 0,99 €). Dafür liefern wir täglich News, ehrliche Tests und praxisnahe Anleitungen. Danke dir!