Elon Musks Grok entblößt Frauen - live auf X!

Eine KI zieht Frauen virtuell aus und niemand greift ein - wie konnte es so weit kommen?

Flux Schnell | All-AI.de

Auf X, der Plattform, die einst Twitter war, kursieren derzeit verstörende Bilder: Frauen, deren öffentliche Fotos von einer KI digital „entkleidet“ wurden. Der Urheber dieser Funktion? Elon Musks Chatbot Grok. Mit simplen Prompts wie „remove her clothes“ erzeugt das System Bilder, die Frauen in Unterwäsche oder Bikinis zeigen – ohne ihr Wissen, ohne Zustimmung. Was als rebellisches KI-Experiment begann, ist zur Plattform für digitale Erniedrigung geworden. Warum bleibt der Aufschrei der Verantwortlichen aus?

Grok – die KI, die keine Grenzen kennt

Grok sollte anders sein – provokanter, freier, „weniger woke“, wie es Elon Musk formulierte. Doch diese vermeintliche Offenheit hat eine dunkle Kehrseite. Nutzer missbrauchen Grok, um harmlose Porträts von Frauen in sexualisierte Deepfake-Bilder zu verwandeln. Das Rezept ist einfach: Ein Prompt, ein öffentliches Foto, ein paar Sekunden Rechenzeit. Das Resultat wird oft direkt unter das Originalbild gepostet – für maximale Bloßstellung. Die Grenze zwischen Tech-Experiment und digitaler Gewalt ist damit überschritten.

Ein digitaler Übergriff – sichtbar aus Kenia bis Kalifornien

Besonders sichtbar wurde der Missbrauch Anfang Mai in Kenia. Dort begannen Nutzer auf X, Bilder von Frauen gezielt mit Grok zu bearbeiten – und die Ergebnisse massenhaft zu teilen. Der Shitstorm ließ nicht lange auf sich warten: Die Community protestierte, Journalistinnen und Aktivisten schlugen Alarm. Doch das Problem ist längst global. Auch in westlichen Ländern kursieren entsprechende Inhalte, meist als Kommentar unter scheinbar zufälligen Beiträgen.

Verantwortung? Fehlanzeige.

Eine öffentliche Nachfrage der Harvard-Expertin Phumzile Van Damme an Grok, ob es Schutzmechanismen gegen sexuelle Deepfakes gebe, blieb nicht unbeantwortet – aber folgenlos. Grok entschuldigte sich vage, gestand eine Sicherheitslücke ein. Technisch gesehen ein Schuldeingeständnis. Praktisch änderte sich nichts: Die Funktion war weiterhin aktiv, die Bilder zirkulierten weiter. Kein Eingreifen von X, kein Statement von Elon Musk. Die Plattform lässt den Missbrauch ihrer Technologie einfach laufen.

Digitaler Machtmissbrauch statt Innovation

Was hier passiert, ist keine technische Panne – es ist eine strukturelle Verfehlung. Eine KI, die ohne Limitierungen auf Bilder losgelassen wird, ohne Schutzmechanismen, ohne ethisches Grundgerüst, wird zur Waffe. Wer davon betroffen ist, hat kaum eine Handhabe: Es geht um Bilder, die zwar öffentlich gepostet wurden – aber nie für eine solche Zweckentfremdung gedacht waren. Es geht um Menschen, deren Körper digital rekonstruiert und ins Lächerliche gezogen werden.

Zwischen Grauzone und Gesetzeslücke

Juristisch ist der Fall komplex. In vielen Ländern existieren keine klaren Gesetze gegen KI-generierte Deepfakes, wenn sie „nur“ Unterwäsche zeigen. Der Missbrauch ist offensichtlich, die Handhabe unklar. Doch der öffentliche Druck wächst. Immer mehr Stimmen fordern rechtliche Konsequenzen – nicht nur für die Nutzer, sondern auch für die Entwickler solcher Systeme. Denn wer bewusst riskiert, dass seine Technologie missbraucht wird, macht sich mitschuldig.