OpenAI vs. Spamouflage: KI gegen chinesische Propaganda

OpenAI deckt eine Verbindung zwischen gesperrten Konten und der berüchtigten „Spamouflage“-Desinformationskampagne auf. Kann KI-gestützte Propaganda gestoppt werden?

Flux Schnell | All-AI.de

OpenAI hat kürzlich mehrere Nutzerkonten aus China und Nordkorea gesperrt, die verdächtigt werden, die KI-Technologie des Unternehmens für böswillige Aktivitäten genutzt zu haben. Diese Maßnahmen werfen ein Schlaglicht auf die wachsende Besorgnis über den Einsatz von KI in staatlich geförderten Desinformationskampagnen und Überwachungsoperationen.

Einsatz von ChatGPT für Propaganda in Lateinamerika

In einem aktualisierten Bericht identifizierte OpenAI Fälle, in denen ChatGPT verwendet wurde, um spanischsprachige Artikel mit anti-amerikanischen Inhalten zu generieren. Diese Artikel wurden in renommierten Zeitungen in Mexiko, Peru und Ecuador veröffentlicht und konzentrierten sich auf politische Spaltungen in den USA sowie auf Themen wie Drogenmissbrauch und Obdachlosigkeit. Die betreffenden Nutzer forderten ChatGPT während der Arbeitszeiten in China auf, diese Artikel auf Spanisch zu erstellen, was auf eine koordinierte Aktion hindeutet. Zudem wurden Belege gefunden, dass ChatGPT genutzt wurde, um Belege aus lateinamerikanischen Zeitungen zu übersetzen, was darauf hindeutet, dass es sich um bezahlte Veröffentlichungen handeln könnte.

Verbindung zur "Spamouflage"-Kampagne

OpenAI stellte fest, dass einige dieser Aktivitäten mit der "Spamouflage"-Operation übereinstimmen, einer umfangreichen Desinformationskampagne, die der chinesischen Regierung zugeschrieben wird. Seit 2017 nutzt "Spamouflage" ein Netzwerk von Social-Media-Konten, um pro-chinesische Propaganda zu verbreiten und Kritiker zu attackieren. In den letzten Jahren hat die Kampagne ihre Taktiken verfeinert und setzt vermehrt auf generative KI, um Einflussoperationen durchzuführen. Obwohl viele dieser Bemühungen bisher nur geringe Resonanz bei echten Nutzern fanden, zeigen neuere Strategien eine erhöhte Effektivität.

Globale Auswirkungen und weitere Vorfälle

Neben den Aktivitäten in Lateinamerika wurden auch in anderen Teilen der Welt ähnliche Vorfälle registriert. In Spanien rief die "Spamouflage"-Kampagne nach verheerenden Überschwemmungen im Oktober 2024 zum Sturz der spanischen Regierung auf. Dabei wurden Social-Media-Konten genutzt, die vorgaben, die Menschenrechtsorganisation "Safeguard Defenders" zu repräsentieren, um die spanische Regierung zu kritisieren. Dies markiert das erste Mal, dass "Spamouflage" direkt zum Umsturz einer ausländischen Regierung aufrief.

In den USA intensivierte die "Spamouflage"-Operation ihre Bemühungen, Wähler mit spaltenden Botschaften zu beeinflussen, insbesondere im Vorfeld der Präsidentschaftswahlen 2024. Forscher stellten fest, dass die Kampagne Tausende von Konten über mehr als 50 Online-Plattformen nutzte, um US-Wähler zu imitieren und Politiker zu diffamieren, ohne dabei eine bestimmte Partei zu bevorzugen. Ziel war es, das Vertrauen in den demokratischen Prozess zu untergraben.

OpenAIs Reaktion und zukünftige Maßnahmen

Als Reaktion auf diese Vorfälle hat OpenAI die betroffenen Konten gesperrt und betont, dass die Nutzung ihrer KI-Modelle für böswillige Zwecke gegen die Nutzungsrichtlinien verstößt. Das Unternehmen arbeitet eng mit internationalen Behörden und Organisationen zusammen, um den Missbrauch von KI-Technologien zu verhindern und zukünftige Desinformationskampagnen zu unterbinden. Diese Ereignisse unterstreichen die Notwendigkeit strengerer Kontrollen und internationaler Zusammenarbeit, um den Missbrauch von KI in globalen Informationskriegen zu bekämpfen.