Erstes Land sperrt Elon Musks KI Grok komplett
Wegen illegaler Nacktbilder zieht eine Regierung jetzt die Notbremse – mit massiven Folgen für X.
Elon Musks KI-Tool Grok ist in Indonesien ab sofort nicht mehr erreichbar. Das viertbevölkerungsreichste Land der Erde reagiert als erster Staat weltweit konsequent auf die Welle an sexualisierten Deepfakes und setzt damit ein massives Zeichen gegen unregulierte KI-Inhalte.
Harte Reaktion auf Nacktbilder-Skandal
Das indonesische Kommunikationsministerium hat den Zugriff auf den KI-Chatbot Grok offiziell blockiert. Die Regierung begründet diesen drastischen Schritt mit Verstößen gegen lokale Gesetze zur elektronischen Information und Transaktionen. Auslöser ist die Fähigkeit der KI, ohne Einschränkungen fotorealistische Nacktbilder von echten Personen zu generieren.
Nutzer hatten in den vergangenen Tagen demonstriert, wie einfach sich mit Grok pornografische Inhalte von Prominenten, Politikern und sogar Minderjährigen erstellen lassen. Während andere KI-Modelle solche Anfragen meist abblocken, fehlten bei Grok entsprechende Sicherheitsfilter fast vollständig. Indonesien macht nun ernst und duldet diese Praxis nicht länger.
Die Sperre gilt als vorübergehend, bis xAI nachbessert, sendet aber ein klares Signal an die Tech-Industrie. Es ist der erste Fall, in dem eine Regierung den Zugang zu einem großen LLM (Large Language Model) aufgrund spezifischer Inhaltsverstöße komplett kappt. Die Behörden in Jakarta fordern garantierte Mechanismen, die solche Generierungen zukünftig technisch unmöglich machen.
Anzeige
EU und Großbritannien erhöhen den Druck
Auch in Europa spitzt sich die Lage für Elon Musk und sein Unternehmen xAI zu. Die EU-Kommission hat im Rahmen des Digital Services Act (DSA) ein formelles Verfahren eingeleitet und fordert die sofortige Sicherung von Beweismitteln. X muss alle Dokumente bezüglich der Entscheidungsprozesse bei Grok aufbewahren, um den Vorwürfen der fehlenden Risikominimierung nachzugehen.
In Großbritannien eskaliert der Konflikt auf politischer Ebene. Premierminister Keir Starmer kündigte an, gegen die Verbreitung illegaler Deepfakes vorzugehen. Musk reagierte auf der Plattform X gewohnt provokant und bezeichnete Großbritannien als "Gefängnisinsel". Diese verbale Auseinandersetzung könnte regulatorische Maßnahmen im Vereinigten Königreich weiter beschleunigen.
Gleichzeitig gerät X in Indien unter Zugzwang. Nach massivem öffentlichen Druck und Regierungsanfragen hat die Plattform dort begonnen, hunderte Accounts zu löschen, die offensives Material verbreitet hatten. Das Unternehmen räumte Fehler ein und versicherte, sich an lokale Gesetze halten zu wollen.
App-Stores in der Pflicht
Die Kontroverse erreicht nun auch die Infrastruktur-Ebene der großen Tech-Giganten. In den USA fordern demokratische Senatoren Apple und Google dazu auf, die X-App mitsamt der integrierten Grok-Funktion aus ihren App-Stores zu entfernen. Sie argumentieren, dass die Verbreitung von nicht-einvernehmlichem sexuellen Material gegen die Richtlinien beider Store-Betreiber verstößt.
Sollten Apple oder Google diesen Forderungen nachkommen, wäre das ein wirtschaftliches Desaster für Musk. Der Ausschluss aus den beiden dominierenden Ökosystemen würde die Reichweite von X und Grok massiv beschneiden. Der Druck auf xAI wächst somit nicht nur durch staatliche Regulierer, sondern auch durch die Gatekeeper der mobilen Welt.