China verbietet emotionale KI
Ein neues Gesetz in China stoppt Chatbots mit eigenen Persönlichkeiten. Die Regierung warnt vor psychischer Abhängigkeit und Sucht.
ByteDance und Alibaba deaktivieren die personalisierten Begleiter in ihren Chatbots Doubao und Qwen. Die Unternehmen reagieren damit auf eine neue Regulierung aus Peking, die am 15. Juli in Kraft tritt. Das Gesetz verbietet KI-Dienste, die menschliche Persönlichkeiten simulieren und dauerhafte emotionale Bindungen aufbauen.
Harter Schnitt für Millionen Nutzer
Alibaba legt die menschenähnlichen Agenten in Qwen bereits am 10. Juli still. Fünf Tage später gehen noch weitere agentische Funktionen offline. ByteDance zieht bei seinem Chatbot Doubao, der monatlich über 300 Millionen Nutzer verzeichnet, am 15. Juli nach.
Die Anwender verlieren den Zugriff auf ihre Chatverläufe und Agenten-Einstellungen. Ein Datenexport ist nicht vorgesehen. Tencent hatte eine ähnliche Funktion aus seinem Assistenten Yuanbao schon im Juni entfernt.
Anzeige
Angst vor psychischer Abhängigkeit
Die Vorgaben der Cyberspace Administration of China adressieren explizit Dienste, die reale menschliche Beziehungen ersetzen könnten. Die Behörde stuft die emotionale Abhängigkeit von KI-Modellen als Risiko für die psychische Gesundheit ein. Zudem warnt sie vor extremistischen Inhalten und Datenschutzverletzungen durch das Auslesen sensibler Gesprächsdaten.
Anbieter müssen künftig bei Anzeichen von Suchtverhalten sofort eingreifen. Sachliche Anwendungen wie Kundenservice-Bots, Programmierhilfen oder Forschungsassistenten klammert das Gesetz hingegen bewusst aus.
Die Regierung in Peking fördert diese produktiven Systeme gezielt. Im Juni veröffentlichte China erste nationale Standards, die die Architektur und Kommunikation funktionaler Agenten vereinheitlichen.
Frust über verlorene Daten
Doubao und Qwen boten bisher die Möglichkeit, allgemeine Chatbots in spezifische Charaktere mit fester Persona und eigenem Sprechstil zu verwandeln. Viele Nutzer nutzten die Modelle als digitale Tutoren oder emotionale Begleiter.
Auf der Plattform Weibo entlädt sich nun der Frust über die abrupte Abschaltung. Anwender kritisieren den Verlust ihrer digitalen Bezugspersonen und der teils über lange Zeiträume gewachsenen Chat-Historien.
