Elon Musk verklagt eigenen Grok Nutzer wegen KI Deepfakes
Der Mann soll Schutzmechanismen der Modelle für kriminelle Bilder umgangen haben. Jetzt fordert xAI massiven Schadensersatz.
Elon Musks KI-Firma xAI geht rechtlich gegen einen Nutzer vor, der mit dem Chatbot Grok sexualisierte Deepfakes von Kindern und Erwachsenen erstellt hat. Die Klage ist einer der ersten Fälle, in denen ein KI-Anbieter einen Nutzer wegen illegaler Inhalte zivilrechtlich belangt.
Sperren gezielt ausgehebelt
Die Klageschrift wirft dem 67-jährigen Terry Wayne Harwood vor, zwischen Dezember 2025 und Februar 2026 harmlose Fotos auf zwei Grok-Konten hochgeladen zu haben. Daraus generierte er sexuell explizite Bildinhalte. Obwohl Grok entsprechende Anfragen mehrfach ablehnte, passte Harwood seine Eingaben kontinuierlich an und hebelte so die bestehenden Sperren aus.
Festnahme im Vorfeld
Wegen sexueller Ausbeutung Minderjähriger wurde Harwood bereits im Februar festgenommen. Die Generalstaatsanwaltschaft von South Carolina erhob daraufhin acht Anklagepunkte gegen ihn. Er soll Material über sexuellen Kindesmissbrauch nicht nur besessen, sondern auch verbreitet haben.
Anzeige
Schadensersatz und dauerhafter Ausschluss
Vor einem Bundesgericht in Texas fordert xAI nun einen unbestimmten Schadensersatzbetrag. Harwood soll auch die Kosten für mögliche künftige Klagen seiner Opfer übernehmen. xAI strebt einen dauerhaften Ausschluss des Beklagten von Grok an. In der Anklage heißt es, er habe reale Opfer langfristig geschädigt und xAI erhebliche rechtliche Risiken beschert.
Zahlen gegen anhaltende Kritik
xAI steht in der Kritik, weil Nutzer Grok wiederholt für die Erstellung nicht einvernehmlicher sexualisierter Inhalte verwendet haben. In der aktuellen Klageschrift nennt die Firma nun konkrete Zahlen zum eigenen Vorgehen. Allein im Jahr 2026 sperrte xAI bislang 52.222 Konten. Gleichzeitig gingen 73.604 Meldungen über Verdachtsfälle an das National Center for Missing & Exploited Children, was zu mindestens 244 Festnahmen führte.
