EU verbietet KI-Tools für sexuelle Deepfakes
Nach dem Skandal um den Chatbot Grok reagiert die EU mit harten Maßnahmen gegen Entwickler.
Die Europäische Union verbietet Software zur Erzeugung sexualisierter Deepfakes ohne Einwilligung. Vertreter der Mitgliedstaaten und des Parlaments einigten sich auf eine entsprechende Anpassung der KI-Verordnung, die das Problem künftig an der Wurzel packt.
Fokus auf Entwickler statt Anwender
Bislang zielte die Gesetzgebung in erster Linie auf die Nutzer ab. Eine seit Mai 2024 bestehende EU-Richtlinie stellt das direkte Anfertigen und Verbreiten manipulierter sexueller Darstellungen in Europa unter Strafe. Mit der neuen Einigung ändert sich die Perspektive grundlegend, da die Europäische Union nun die KI-Tools direkt ins Visier nimmt.
Verantwortlich für die Durchsetzung der neuen Regeln ist ab dem 2. Dezember 2026 das KI-Amt der EU. Bevor das Verbot vollumfänglich greift, müssen Plenum und Ministerrat die Einigung noch formell bestätigen. Ausgelöst wurde diese harte Reaktion durch einen populären Vorfall Ende des vergangenen Jahres. Der Chatbot Grok rückte das Thema unfreiwilliger Nacktbilder stark in den Mittelpunkt. Nutzer verwendeten das KI-Modell wiederholt, um Frauen auf Fotos digital zu entkleiden, bis das zuständige Unternehmen die Funktion schließlich zum Teil einschränkte.
Anzeige
Ausnahmen für allgemeine Bildbearbeitung
Trotz des strengen Verbots spezieller Deepfake-Tools wollen die Verhandlungsteilnehmer die legitime Bildbearbeitung nicht übermäßig einschränken. Der finale Gesetzestext wird detailliert definieren, welche generierten Medien rechtlich als sexualisierter Inhalt gelten.
Nicht einvernehmliche Bikini-Bilder, wie sie zuvor millionenfach über Grok auf diversen Plattformen kursierten, könnten unter bestimmten Voraussetzungen erlaubt bleiben. Diese feine juristische Trennlinie soll verhindern, dass harmlose KI-Modelle für die alltägliche Bildkorrektur blockiert werden. Entwickler von Open Source Software stehen hierbei vor der Herausforderung, verlässliche Filter in ihre Modelle zu integrieren, ohne die Funktionalität zu zerstören.
Verzögerungen bei der Wasserzeichenpflicht
Während die Politik bei Deepfakes unerbittliche Härte zeigt, entschärft sie auf Wunsch der Industrie andere Teile der KI-Verordnung. Anbieter von sehr großen Modellen wie ChatGPT oder Claude erhalten deutlich mehr Zeit für die Umsetzung grundlegender technischer Vorschriften.
Die Pflicht, generierte Bilder und Videos mit einem maschinenlesbaren Wasserzeichen zu kennzeichnen, verschiebt sich vom ursprünglichen Starttermin im August auf den Dezember 2026. Noch länger dauert es bei weiteren Regulierungen, die in der Praxis erst ab Dezember 2027 gelten. Um eine störende Doppelregulierung zu vermeiden, schaffen die Gesetzgeber zudem spezielle Ausnahmen für die europäische Maschinenbaubranche. Das neue Regelwerk verdeutlicht den ständigen Balanceakt der Behörden, destruktive Auswüchse zu unterbinden und gleichzeitig die wirtschaftliche Entwicklung der Technologie nicht abzuwürgen.