Neue ChatGPT Funktion alarmiert Freunde in Notlagen

Anwender hinterlegen künftig einen Notfallkontakt, der bei besorgniserregenden Konversationen mit der KI eine Warnung erhält.

Andreas Becker09.05.26 GPT-Images-2.0

Kurzfassung Quellen

ChatGPT führt mit Trusted Contact eine Notfall-Benachrichtigung für volljährige Nutzer ein.
KI-Modelle und menschliche Prüfer analysieren Chats gemeinsam auf ernsthafte Anzeichen von Selbstgefährdung.
Die hinterlegte Vertrauensperson erhält bei einem Vorfall eine Warnung ohne Einsicht in die privaten Chatprotokolle.
Das Feature startet weltweit und steht ab sofort auch für deutsche Anwender zur Verfügung.

ChatGPT erhält eine neue Sicherheitsfunktion für emotionale Ausnahmesituationen. Mit dem sogenannten Trusted Contact hinterlegen Anwender eine persönliche Vertrauensperson, die das System im Falle einer akuten Krise oder bei Hinweisen auf Selbstgefährdung automatisch benachrichtigt.

Zweistufige Kontrolle verhindert Fehlalarme

Bevor eine Warnung an Angehörige oder Freunde herausgeht, analysieren KI-Modelle kontinuierlich den laufenden Chatverlauf. Entdecken die Algorithmen deutliche Anzeichen für eine ernsthafte psychische Gefährdung, informiert das Programm den Nutzer zunächst selbst über die geplante Kontaktaufnahme. Dabei liefert die Software direkt praktische Formulierungshilfen, um die betroffene Person zu einem klärenden Gespräch zu ermutigen.

Anschließend schaltet sich ein Team aus speziell geschulten Fachkräften ein. Diese menschlichen Prüfer bewerten den kritischen Kontext der Unterhaltung abschließend, um Fehlinterpretationen der Technik auszuschließen. Bestätigt sich der akute Verdacht, sendet das System innerhalb von maximal einer Stunde einen Alarm an den Notfallkontakt. Die Übermittlung erfolgt wahlweise per E-Mail, Textnachricht oder als In-App-Benachrichtigung.

Globaler Start schließt Deutschland ein

Fachärzte und Organisationen für Suizidprävention haben die Entwicklung dieser Funktion eng begleitet. Um die Privatsphäre in solch sensiblen Momenten zu schützen, erhalten die Empfänger der Warnmeldung keinerlei Einsicht in die konkreten Chatprotokolle. Stattdessen übermittelt die Benachrichtigung lediglich einen allgemeinen Hinweis auf die potenziell kritische Situation sowie professionelle Leitfäden für den richtigen Umgang.

Weltweit steht das neue Feature allen volljährigen Personen zur Verfügung. Die Freischaltung umfasst folglich auch den deutschen Markt uneingeschränkt. Eingeladene Kontakte müssen ihre neue Rolle innerhalb einer Woche aktiv bestätigen, bevor der Schutz greift. Beide Parteien können diese Notfall-Verbindung in den Einstellungen später jederzeit wieder auflösen.