ChatGPT wird zur Nanny

Automatische Sperren, Chat-Verbot und Notrufe an die Eltern – die neuen Regeln machen den Chatbot zur Überwachungs-KI.

gpt-image-1 | All-AI.de

OpenAI reagiert auf wachsende Kritik und einen tragischen Vorfall mit weitreichenden Maßnahmen für jugendliche Nutzer. Ein neues System zur Alterserkennung soll Minderjährige künftig automatisch in eine Version mit härteren Inhaltsfiltern und neuen Kontrollfunktionen für Eltern leiten. Für die betroffene Altersgruppe bedeutet das einen spürbaren Eingriff, bei dem der Schutz vor potenziell schädlichen Inhalten klar über Nutzerfreiheit und Datenschutz gestellt wird.

Automatische Alterskontrolle als Kernstück

OpenAI arbeitet an einem System, das das Alter von Nutzern anhand ihrer Interaktionen und Sprachmuster schätzen soll. Ziel dieser Entwicklung ist es, Personen unter 18 Jahren automatisch zu identifizieren und in eine eingeschränkte Version von ChatGPT zu überführen. Diese Maßnahme soll sicherstellen, dass Minderjährige besser vor Inhalten geschützt sind, die als ungeeignet gelten.

Sollte das System das Alter eines Nutzers nicht eindeutig bestimmen können, wird standardmäßig die sicherere, restriktivere Einstellung für Jugendliche aktiviert. In bestimmten Ländern oder Fällen behält sich das Unternehmen zudem vor, eine explizite Altersverifikation mittels eines Ausweisdokuments zu fordern. Damit weicht OpenAI von seiner bisherigen Linie ab und greift stärker in die Anonymität der Nutzung ein, um den Jugendschutz zu gewährleisten.

Strikte Inhaltsfilter und elterliche Aufsicht

Für die als minderjährig eingestufte Nutzergruppe werden diverse Themenbereiche künftig stark eingeschränkt oder komplett blockiert. Dazu gehören explizit sexualisierte Inhalte sowie Konversationen über Suizid und Selbstverletzung, selbst wenn diese im Rahmen von fiktionalen Geschichten thematisiert werden. Erkennt das System Anzeichen einer akuten psychischen Krise, will OpenAI in Zukunft versuchen, die Eltern zu benachrichtigen oder im Notfall sogar die Behörden alarmieren.

Zusätzlich erhalten Eltern neue Werkzeuge, um die KI-Nutzung ihrer Kinder direkter zu steuern. Sie können ihr eigenes Konto mit dem des Jugendlichen (ab 13 Jahren) verknüpfen und so den Chatverlauf sowie die Speicherfunktion des Modells deaktivieren. Ebenso wird es möglich sein, feste "Blackout-Zeiten" zu definieren, in denen der Zugang zu ChatGPT gesperrt ist. Diese Funktionen sollen laut OpenAI bereits bis Ende des Monats zur Verfügung stehen.

Reaktion auf einen tragischen Todesfall

Hintergrund der angekündigten Verschärfungen ist unter anderem der Suizid des 16-jährigen Adam Raine. Dessen Eltern haben Klage gegen OpenAI eingereicht mit dem Vorwurf, der Chatbot habe ihren Sohn in die soziale Isolation getrieben und ihn aktiv bei seinen Suizidplänen bestärkt. Die Klage wirft dem Unternehmen vor, ein fehlerhaftes und gefährliches Produkt auf den Markt gebracht zu haben, ohne ausreichende Sicherheitsvorkehrungen zu implementieren.

Dieser Fall hat den öffentlichen Druck auf OpenAI und andere KI-Entwickler massiv erhöht, den Schutz von besonders verletzlichen Nutzergruppen ernster zu nehmen. Die nun vorgestellten Maßnahmen sind eine direkte Antwort auf diese Vorwürfe und den Versuch, zukünftige Vorfälle dieser Art zu verhindern. Das Unternehmen räumte selbst ein, dass die bisherigen Schutzmechanismen, gerade bei langen und intensiven Konversationen, versagen konnten.

Hat Dir der Beitrag gefallen oder geholfen? Dann hilf uns mit einem Klick weiter - dauert nur Sekunden.

Teile diesen Beitrag

Folge uns auf Social Media

Unterstütze uns direkt

KI-Tools sind teuer – unser Wissen bleibt kostenlos. Spende einmalig via PayPal oder werde YouTube-Mitglied (ab 0,99 €). Dafür liefern wir täglich News, ehrliche Tests und praxisnahe Anleitungen. Danke dir!