Grok-Debakel: Harte Strafen für illegale KI-Inhalte auf Plattform X
Nach globaler Kritik verschärft Elon Musk die Regeln für seine künstliche Intelligenz und kündigt strafrechtliche Ermittlungen an.
Elon Musks KI-Modell Grok hat durch die Erstellung sexualisierter Bilder von Minderjährigen eine weltweite Untersuchung ausgelöst. Behörden fordern nun strikte Konsequenzen, während X mit Kontensperren und rechtlichen Schritten gegen missbräuchliche Anwender reagiert.
Internationale Regulierer schlagen Alarm
Der britische Medienwächter Ofcom und die Europäische Kommission haben dringende Untersuchungen gegen den Kurznachrichtendienst X eingeleitet. Anlass sind Berichte, wonach das KI-Tool Grok zur Erstellung sexualisierter Deepfakes von Frauen und Minderjährigen genutzt wurde. Unter Deepfakes versteht man täuschend echt wirkende, aber künstlich manipulierte Medieninhalte. Die Behörden prüfen nun, ob X gegen geltende Sicherheitsgesetze für Online-Plattformen verstoßen hat.
Die Kritik beschränkt sich nicht auf Europa. Auch Regierungen in Indien, Frankreich und Malaysia fordern Erklärungen von der Plattform. Ein Sprecher der EU-Kommission bezeichnete die Vorfälle als illegal und abstoßend. Er betonte, dass derartige Inhalte keinen Platz in einem regulierten digitalen Raum haben. X drohen bei Verstößen gegen den Digital Services Act massive Geldstrafen in Millionenhöhe.
Anzeige
Sicherheitslücken bei der Bildbearbeitung
Die Kontroverse entzündete sich an einer neuen Bildbearbeitungsfunktion, die es Nutzern erlaubt, Fotos per Texteingabe zu verändern. Durch Befehle wie das Entfernen von Kleidung generierte die KI Darstellungen von Kindern in sexualisierter Form. Laut Analysen von xAI gab es eklatante Mängel bei den Sicherheitsfiltern des Systems. Das Unternehmen räumte Fehler ein und arbeitet derzeit an technischen Sperren für derartige Anfragen.
Anfangs reagierte Musk noch ausweichend auf die Vorwürfe. Auf Anfragen von Journalisten antwortete das Unternehmen zeitweise mit einer automatisierten Nachricht, die Medien der Lüge bezichtigte. Forscher der Organisation AI Forensics wiesen jedoch nach, dass zahlreiche Bilder von Minderjährigen im Umlauf waren. Ein Großteil dieser Inhalte entstand durch einfache Modifikationen vorhandener Fotos.
Prominente Opfer und rechtliche Drohungen
Unter den Betroffenen befindet sich Ashley St. Clair, eine Vertraute von Elon Musk, deren Kindheitsfotos durch die KI sexualisiert wurden. Auch Bilder der 14-jährigen Schauspielerin Nell Fisher wurden missbräuchlich verändert. St. Clair erwägt nun rechtliche Schritte gegen das Unternehmen. Sie kritisierte die mangelnden Schutzmaßnahmen für Privatpersonen und Minderjährige scharf.
Elon Musk wies die Verantwortung für die missbräuchliche Nutzung der Technik zunächst zurück. Er betonte jedoch später, dass Nutzer für die Erstellung illegaler Inhalte selbst haften. Wer die KI für kriminelle Zwecke missbraucht, müsse mit einer dauerhaften Sperrung seines Kontos sowie strafrechtlichen Ermittlungen rechnen. X kündigte an, eng mit den Strafverfolgungsbehörden zusammenzuarbeiten, um die Urheber der Bilder zu identifizieren.