ChatGPT empfiehlt Nutzern kriminelle Online Shops

Kriminelle manipulieren die KI gezielt mit falschen Daten. Nutzer verlieren ihr Geld und sensible Zahlungsdaten.

Andreas Becker09.06.26 GPT-Images-2.0

Kurzfassung Quellen

Kriminelle manipulieren die Suchfunktion von ChatGPT durch sogenanntes Data Poisoning.
Die KI empfiehlt Nutzern dadurch bei der Produktsuche betrügerische Fake-Shops bekannter Marken.
Wer dort einkauft, verliert nicht nur sein Geld, sondern auch sensible Kreditkartendaten an die Täter.
OpenAI hat das Problem bestätigt und erste betrügerische Seiten aus dem Index entfernt.

Kriminelle nutzen ChatGPT gezielt als Vermittler für gefälschte Online-Shops. Der KI-Assistent leitet Nutzer bei der Produktsuche aktiv auf betrügerische Webseiten weiter, die darauf ausgelegt sind, Zahlungs- und Kreditkartendaten abzugreifen. Sicherheitsexperten vermuten eine gezielte Manipulation der Trainingsdaten.

Gefälschte Shops in den Suchergebnissen

Wer den KI-Assistenten von OpenAI nach aktuellen Handtaschen der Marke Russell & Bromley fragt, erhält detaillierte Vorschläge inklusive Preisen. Ein Klick auf die von ChatGPT angegebenen Quellen führt jedoch oft nicht zum offiziellen Händler. Der Sicherheitsdienstleister Ask Silver hat aufgedeckt, dass das System Nutzer stattdessen direkt auf professionell gefälschte Webseiten leitet.

Diese Fake-Shops werben mit unrealistischen Rabatten von bis zu 80 Prozent. Wer dort bestellt, verliert sein Geld und übergibt seine Kreditkartendaten direkt an Betrüger. Neben Russell & Bromley sind auch gefälschte Seiten des Einrichtungshändlers Dunelm in den ChatGPT-Antworten aufgetaucht. Das Unternehmen rät Kunden mittlerweile eindringlich, ausschließlich die offizielle App oder Webseite zu nutzen.

Quelle: Screenshot theguardian

Gezielte Manipulation der Datenbasis

Die Analysten von Ask Silver gehen davon aus, dass das zugrundeliegende LLM vergiftet wurde. Bei diesem sogenannten Data Poisoning schleusen Angreifer manipulierte Inhalte in die Daten ein, aus denen die KI lernt. Die Kriminellen nutzen dabei geschickt aktuelle Marktentwicklungen aus.

Russell & Bromley meldete im Januar 2026 Insolvenz an und gehört nun zum Modehändler Next. Da es keine eigenständige offizielle Webseite der Marke mehr gibt, haben es die gefälschten Domains leichter, im KI-Ranking aufzusteigen. Nutzer suchen weiterhin nach der bekannten Marke, und die KI greift mangels offizieller Primärquelle auf die suchmaschinenoptimierten Scam-Seiten zurück. Next hat das Problem laut eigenen Angaben erkannt und arbeitet bereits daran, die betrügerischen Seiten vom Netz nehmen zu lassen.

Fehlendes Misstrauen bei KI-Empfehlungen

Verbraucherschützer der britischen National Trading Standards warnen davor, Links blind zu vertrauen, nur weil eine KI sie vorschlägt. Nutzer müssen die URLs genau prüfen. Kriminelle verwenden oft leicht abgewandelte Adressen mit Zusätzen wie »official« und fordern meist riskante Zahlungsmethoden wie direkte Banküberweisungen. Ein genauer Blick auf die Domain und gängige Endungen wie .com ist daher unerlässlich.

Ein Sprecher von OpenAI bestätigte mittlerweile das Problem. Das Unternehmen hat die identifizierten betrügerischen Webseiten aus seinem Suchindex entfernt. Nutzer von ChatGPT können verdächtige Quellen über ein integriertes Formular direkt melden, um das System bei der Bereinigung zu unterstützen.