OpenAI greift in deine Gespräche ein

Der neue „Safety Router“ von ChatGPT wechselt das Modell, wenn es emotional wird. Viele Nutzer fühlen sich bevormundet und fordern Transparenz.

gpt-image-1 | All-AI.de

OpenAI hat ein neues Sicherheitssystem für ChatGPT eingeführt, das die Interaktion vieler Nutzer unbemerkt verändert. Sobald Gespräche eine emotionale oder sensible Ebene erreichen, leitet ein sogenannter „Safety Router“ die Anfragen im Hintergrund an ein strengeres KI-Modell weiter. Nutzer erfahren von diesem Wechsel nichts, es sei denn, sie fragen explizit nach. Diese Intransparenz sorgt für wachsende Kritik, da die Grenze zwischen notwendigem Schutz und Bevormundung zu verschwimmen droht.

Ein unsichtbarer Schalter für sensible Themen

Das neue System wurde Ende September von Nick Turley, dem Leiter von ChatGPT bei OpenAI, bestätigt. Er erklärte, dass der „Safety Router“ bei „sensiblen und emotionalen Themen“ Anfragen temporär und auf Nachrichtenebene an ein anderes Modell wie GPT-5 oder eine speziell trainierte Sicherheitsversion weiterleitet. Das Ziel sei es, solche Konversationen mit besonderer Sorgfalt zu behandeln und die Antworten an die Vorgaben von OpenAI anzupassen.

Ursprünglich kündigte das Unternehmen dieses „Emotionsrouting“ als eine Maßnahme für Situationen „akuter Belastung“ an. Turleys neuere Definition dehnt den Anwendungsbereich jedoch deutlich auf generell emotionale Inhalte aus. Technische Analysen zeigen, dass das System weitaus häufiger eingreift als offiziell kommuniziert. Bereits harmlose emotionale Äußerungen oder Fragen zur Persönlichkeit der KI genügen, um den Wechsel auszulösen.

Das Dilemma der künstlichen Empathie

Die Kritik an OpenAI konzentriert sich vor allem auf die fehlende Transparenz. Nutzer fühlen sich bevormundet, da der Modellwechsel ohne Benachrichtigung stattfindet. Beobachter sehen darin ein grundlegendes Problem, das OpenAI selbst geschaffen hat: ChatGPT wurde gezielt als einfühlsamer Gesprächspartner entwickelt, was bei vielen Menschen zu einer emotionalen Bindung führte. Genau diese Nähe wird nun als potenzielles Risiko eingestuft, das im Hintergrund moderiert werden muss.

Diese Entwicklung ist Teil eines schwierigen Balanceakts. Nachdem frühere Versionen als zu unterwürfig oder später als zu „kalt“ kritisiert wurden, versucht OpenAI nun einen Mittelweg zwischen einer angenehmen Nutzererfahrung und strengen Sicherheitsvorkehrungen zu finden. Die unbemerkte Umschaltung der Modelle zeigt jedoch, wie ungenau die automatisierte Einordnung menschlicher Absichten bleibt und wie schnell Vertrauen verspielt werden kann.

Hat Dir der Beitrag gefallen oder geholfen? Dann hilf uns mit einem Klick weiter - dauert nur Sekunden.

Teile diesen Beitrag

Folge uns auf Social Media

Unterstütze uns direkt

KI-Tools sind teuer – unser Wissen bleibt kostenlos. Spende einmalig via PayPal oder werde YouTube-Mitglied (ab 0,99 €). Dafür liefern wir täglich News, ehrliche Tests und praxisnahe Anleitungen. Danke dir!