Reddit Spam steuert Antworten von ChatGPT
Händler manipulieren gezielt Foren für mehr Reichweite. KI-Modelle empfehlen Nutzern dadurch ungeprüfte Gesundheitsprodukte.
Werbeagenturen überfluten Reddit gezielt mit gefälschten Beiträgen, um die Antworten von KI-Modellen wie ChatGPT und der Google KI-Suche zu beeinflussen. Das US-Magazin 404 Media deckt auf, wie Firmen im Forum für Biohacking systematisch falsche Empfehlungen für Gesundheitsprodukte platzieren. Die dortigen Moderatoren verhängen nun drastische Beschränkungen, um die Nutzer vor dubiosen Präparaten zu schützen.
Die Taktik hinter der Suchmaschinenoptimierung für Chatbots
In Marketingkreisen etabliert sich dieses Vorgehen aktuell unter dem Begriff »AI Engine Optimization« (AEO). Das Ziel ist es, das grundlegende Quellenmaterial zu verändern, aus dem Sprachmodelle ihre Antworten generieren. Reddit gilt hierfür als perfektes Ziel.
Das Forum ist bei den Entwicklern von KI-Assistenten äußerst beliebt für das Training der Modelle. Analysten schätzen, dass die Plattform in fünf bis zehn Prozent aller generierten Antworten als primäre Quelle auftaucht. Auch ein direktes Abkommen zwischen Google und Reddit untermauert den hohen Wert der Diskussionsstränge. Wer es schafft, seine Produkte dort glaubhaft zu platzieren, landet fast automatisch in den Ausgaben der Chatbots.
Anzeige
Gekaufte Konten und inszenierte Fragen
Die Agenturen gehen dabei äußerst professionell vor. Anbieter wie Redrover analysieren zunächst die bevorzugten Anfragemuster der Sprachmodelle. Anschließend erstellen sie vage, breit formulierte Fragen in Foren, um echte Nutzer zur Interaktion zu bewegen.
In den entstehenden Diskussionen platzieren die Firmen dann gezielt ihre Markennennungen. Sie nutzen dafür keine leicht erkennbaren Bots. Stattdessen kommen menschliche Nutzer zum Einsatz, die für ihre Beiträge bezahlt werden. Häufig verwenden die Agenturen auch alte, über Jahre gepflegte Profile, um eine organische Historie vorzutäuschen. Für automatisierte Schutzsysteme sind diese Beiträge kaum von echten Meinungen zu unterscheiden.
Gefahr durch unseriöse Präparate
Im speziellen Fall des Subreddits »r/biohackers« konzentrieren sich die manipulierten Beiträge auf Peptide und Hormonersatztherapien. Dieser Markt umfasst neben regulierten Anbietern auch unzählige Graumarkt-Händler.
Die Moderatoren des Forums befürchten konkrete körperliche Schäden bei den Lesern. Chatbots könnten Konsumenten durch die gefälschten Erfahrungsberichte zum Kauf bei unsicheren Quellen verleiten. Besonders besorgniserregend ist die Vorstellung, dass Teenager auf der Suche nach Wachstumshormonen über KI-Assistenten direkt an solche Verkäufer geraten.
Moderatoren kapitulieren vor der Spam-Welle
Um den Missbrauch einzudämmen, greift das Moderatorenteam nun hart durch. Sämtliche neuen Beiträge zu Peptiden und Hormontherapien leiten sie in wöchentliche Sammelthreads um.
Ein Sprecher von Reddit betont zwar, dass interne Sicherheitsteams permanent an neuen Werkzeugen zur Spam-Erkennung arbeiten. Für die ehrenamtlichen Betreiber des Biohacking-Forums ist die manuelle Überprüfung der komplexen Textmuster dennoch kaum noch zu bewältigen. Die zunehmende Flut an künstlichen Inhalten gefährdet laut den Betreibern den Charakter der Plattform als Ort für echten menschlichen Austausch.
