KI deckt reale Namen von anonymen Foren-Nutzern auf
Forscher demonstrieren eine automatisierte Methode, die scheinbar unbedeutende Textdetails nutzt, um die wahre Identität im Netz zu ermitteln.
Forscher der ETH Zürich und des Unternehmens Anthropic haben eine Methode demonstriert, mit der künstliche Intelligenz pseudonyme Online-Profile entschlüsselt. Große Sprachmodelle analysieren dafür gewöhnliche Forenbeiträge und decken die wahre Identität der Verfasser für einen geringen Dollarbetrag vollautomatisiert auf.
Anzeige
Puzzle aus unstrukturierten Texten
Die Technologie nutzt das sogenannte Reasoning aktueller Sprachmodelle, um logische Schlüsse aus großen Textmengen zu ziehen. Das System durchsucht Kommentarspalten nach scheinbar unbedeutenden Details. Neben direkten Hinweisen wie Alter oder Geschlecht erkennt die KI auch subtile und versteckte Informationen.
Erwähnt ein Nutzer beispielsweise einen lokalen Feiertag oder beschreibt das aktuelle Wetter in einem Nebensatz, grenzt das Modell den Wohnort bereits ein. Sprachliche Eigenheiten, Nischen-Hobbys oder berufliche Anekdoten vervollständigen das Bild Schritt für Schritt. Die KI extrahiert diese unstrukturierten Datenpunkte aus hunderten Kommentaren und formt daraus ein hochpräzises Profil der Zielperson.
Dieser Vorgang erforderte früher einen hohen manuellen Aufwand durch menschliche Analysten. Die LLMs übernehmen diese Detektivarbeit nun komplett eigenständig, ohne dass der Nutzer davon etwas bemerkt.
Skalierbare Analyse über APIs
Im nächsten Schritt gleichen die Modelle das erstellte Profil mit externen Informationen ab. Sie nutzen öffentliche APIs und Schnittstellen zu Suchmaschinen, um die gesammelten Merkmale mit Vereinsregistern, Zeitungsartikeln oder professionellen Netzwerken zu verknüpfen. Durch diesen automatisierten Abgleich schrumpft die Liste der potenziellen Personen schnell zusammen. Oft bleibt am Ende nur eine einzige reale Person übrig.
Der finanzielle Aufwand für einen solchen Angriff fällt extrem gering aus. Die Enttarnung eines einzelnen Nutzers kostet bei der Verwendung kommerzieller Schnittstellen nur wenige Dollar. Die eigentliche Berechnung dauert dabei lediglich einige Minuten.
Die Methode funktioniert mit den etablierten KI-Diensten und erfordert keine tiefergehenden Programmierkenntnisse. Das macht die Technik für eine breite Masse zugänglich. Besonders für Personen, die auf Anonymität angewiesen sind, entsteht dadurch ein konkretes Risiko. Whistleblower oder Aktivisten laufen Gefahr, durch ihre vergangenen Textbeiträge nachträglich identifiziert zu werden. Sicherheitsforscher stehen nun vor der Aufgabe, neuartige Schutzmechanismen zu entwickeln, um persönliche Daten vor diesen automatisierten Analysen zu verbergen.