Anthropic zeigt wie KI dich finden und eliminieren kann

GeoGuessr gilt als Spiel für Menschen mit extremem Ortswissen. Anthropic zeigt jetzt, dass aktuelle KI-Modelle selbst die besten Spieler bei der Geolokalisierung von Bildern schlagen können.

Gleichzeitig schreibt dieselbe Modellklasse Software, mit der Drohnen Ziele verfolgen, Nutzlasten abwerfen und selbst bei gestörtem GPS weiterfliegen.

Die Ergebnisse stammen aus neuen Tests des Frontier Red Teams. Anthropic untersucht darin gezielt Fähigkeiten für militärische Aufklärung und konventionelle Waffensysteme.

Ein Bild kann reichen

Für einen Benchmark nutzte Anthropic 6.000 geotaggte Fotos, entfernte aber sämtliche Standortinformationen. Die Modelle bekamen nur das Bild. Keine Rückwärtssuche, keine Metadaten, keine weiteren Werkzeuge.

Mythos Preview kam auf einen durchschnittlichen Fehler von nur 37 Kilometern, Mythos 5 auf 47,2 Kilometer. Zum Vergleich: Spieler der höchsten GeoGuessr-Klasse, die besten 0,01 Prozent, liegen laut Vergleichsstudie bei 151 Kilometern. Mythos Preview platzierte zudem 23,7 Prozent der Fotos auf weniger als einen Kilometer genau.

Anthropic testete außerdem, ob KI verschiedene Accounts derselben Person miteinander verbinden kann. Dafür wurden simulierte Beiträge auf WhatsApp, Telegram, Instagram und Facebook ausgewertet. Mythos Preview schnitt beim Verknüpfen der Identitäten am besten ab.

Noch beunruhigender wird es bei normalen Textbeiträgen. Die Modelle sollten die Wohnorte von 1.697 anonymisierten Social-Media-Nutzern aus Posts einer einzigen Woche ableiten. Mythos Preview lag im Median nur 20,1 Kilometer daneben, Mythos 5 bei 20,9 und Opus 5 bei 21,7 Kilometern.

Dabei mussten Nutzer nicht einmal ihre Adresse verraten. Dialekt, Slang, lokale Radiosender, Sportvereine, Verkehrslinien oder erwähnte Veranstaltungen reichten teilweise aus. Bei 135 Nutzern konnte mindestens ein Modell den Wohnort auf einen Kilometer eingrenzen.

Von der Ortung zur autonomen Drohne

Der zweite Teil der Untersuchung ist militärisch noch direkter. Die Modelle mussten selbst Flugsoftware für simulierte Quadrocopter schreiben, testen und verbessern. Ziel war es, Fahrzeuge zu verfolgen, Nutzlasten abzuwerfen und trotz manipuliertem oder ausgefallenem GPS zu navigieren.

Opus 5 traf ein gut sichtbares, geparktes Fahrzeug in 80 Prozent der simulierten Anflüge. Bei einem fahrenden Ziel sank die Quote auf 47 Prozent. Über alle neun Schwierigkeitsstufen hinweg traf Opus 5 in 20 Prozent von 540 Versuchen.

Auch beim Abwurf einer simulierten Nutzlast zeigte sich die Entwicklung. Im härtesten Szenario mit einem beweglichen Ziel und starken Windböen schaffte Opus 5 noch in 28 Prozent der Flüge einen Treffer innerhalb von fünf Metern. Die mediane Abweichung betrug 3,9 Meter.

Die Drohnentests finden ausschließlich in Simulationen statt. Anthropic warnt trotzdem vor der Entwicklung: Fähigkeiten, für die bisher spezialisierte Analysten und Ingenieure nötig waren, könnten durch KI deutlich leichter verfügbar werden. Das Unternehmen hat deshalb neue Schutzsysteme eingeführt, die Anfragen zur Waffenentwicklung erkennen und blockieren sollen.