Therapie ohne Schweigepflicht: Wie ChatGPT deine Seele kennt – und verraten darf

Sam Altman schlägt Alarm: KI kennt eure Abgründe, aber keine Gesetze schützen euch. Wird eure Vertraulichkeit gerade geopfert?

gpt-image-1 | All-AI.de

Immer mehr Nutzer sprechen mit ChatGPT über private Krisen, emotionale Belastungen oder mentale Tiefpunkte. Was viele nicht wissen: Diese Gespräche sind nicht vertraulich. OpenAI-Chef Sam Altman warnt selbst davor, dem System therapeutische Funktionen zuzuschreiben – denn rechtlich genießt ein Chat mit der KI keinerlei Schutz. Was bedeutet das für das Vertrauen in KI-gestützte Gespräche?

Wenn Vertraulichkeit nur Fassade ist

In einem Podcast-Interview erklärte Altman, dass Unterhaltungen mit ChatGPT keinerlei rechtlich geschützten Status haben. Anders als beim Arzt, Anwalt oder Psychologen darf OpenAI zu jeder Zeit verpflichtet werden, Gesprächsinhalte offenzulegen – etwa vor Gericht. Altman selbst nennt das bestehende Vakuum „verrückt“ und fordert eine gesetzliche Lösung, die dem Schutz klassischer Vertrauensverhältnisse entspricht.

Die Dringlichkeit ergibt sich aus dem Nutzungsverhalten: Millionen Menschen führen mit ChatGPT Gespräche, die sehr persönliche Informationen enthalten. Viele suchen darin Hilfe, Zuspruch oder emotionale Stabilität. Doch gerade dort, wo die Privatsphäre am wichtigsten wäre, fehlt sie vollkommen. Die potenziellen Konsequenzen – von peinlicher Offenlegung bis zur rechtlichen Verwertung – sind vielen offenbar nicht bewusst.

Zwischen Rechtsprechung und Rechenzentrum

Gleichzeitig läuft in den USA ein spektakulärer Rechtsstreit, der das Thema zusätzlich anheizt. Im Verfahren zwischen der New York Times und OpenAI geht es um die langfristige Speicherung aller Chatverläufe – auch jener, die Nutzer eigentlich gelöscht glaubten. OpenAI widersetzt sich zwar, muss aber laut Gerichtsbeschluss zahlreiche Datensätze sichern und aufbewahren.

Offiziell werden Chats nach 30 Tagen gelöscht, sofern keine rechtlichen Bedenken vorliegen. In der Praxis aber liegt die Entscheidung, was „rechtlich relevant“ ist, bei OpenAI selbst. Nur Großkunden mit speziellen Verträgen können sich auf dauerhafte Datenlöschung verlassen. Für die Masse der Nutzer gilt: Was gesagt wurde, bleibt speicherbar – und unter Umständen auch abrufbar.

KI ersetzt keine menschliche Expertise

Altman macht keinen Hehl daraus, dass er selbst ChatGPT nicht für medizinische oder psychologische Anliegen einsetzt. Er verweist auf die Notwendigkeit menschlicher Expertise – nicht nur wegen des fehlenden Rechtsrahmens, sondern auch wegen der Qualitätsrisiken. Studien zeigen, dass KI-Systeme bisweilen verzerrte, sogar diskriminierende Aussagen liefern können – besonders bei sensiblen oder gesellschaftlich aufgeladenen Themen.

Auch wenn Sprachmodelle rhetorisch brillieren, bleiben sie letztlich Statistikmaschinen ohne Empathie oder moralisches Urteilsvermögen. Wer sich an sie wendet, tut das oft in emotional verletzlichen Momenten – ohne dabei zu bedenken, dass der Gesprächspartner weder Mitgefühl noch Schweigepflicht kennt.

Das Vertrauen wackelt – wer schützt uns?

Die Diskussion zeigt, wie sehr sich technologische Möglichkeiten und rechtliche Realität auseinanderentwickelt haben. Während KI-Systeme immer menschlicher klingen und Nutzerbindung erzeugen, fehlt es an gesetzlichen Regeln, die dieses neue Beziehungsverhältnis absichern. Altman selbst ruft nach einem „AI-Privilege“, das vergleichbar mit der ärztlichen Schweigepflicht funktioniert.

Bis dahin bleibt es ein Drahtseilakt. Wer sich ChatGPT anvertraut, macht sich angreifbar – nicht weil die KI unethisch wäre, sondern weil es keinerlei Schutz gibt. Das sollte niemand leichtfertig übersehen.

Kostenlose News und Tutorials – mit minimaler Werbung und maximalem Mehrwert. Damit das so bleibt und wir uns stetig verbessern können, freuen wir uns über deine Unterstützung.

Teile diesen Beitrag

Folge uns auf Social Media

Keine KI-News mehr verpassen und direkt kommentieren!

Unterstütze uns direkt

Mit einer YouTube-Mitgliedschaft (ab 0,99 €) oder einmalig über PayPal. So helft ihr uns, unabhängig neue Tools zu testen und noch mehr Tutorials für euch zu erstellen. Vielen Dank für euren Support!