Anthropic bremst Datenklau bei Claude um bis zu 99 Prozent

Anthropic hat neue Schutzmechanismen gegen die unerlaubte Distillation bei Claude eingeführt. Sie sollen die Menge abgegriffener Daten um 90 bis 99 Prozent senken. Dafür nimmt das KI-Unternehmen Einschränkungen für Entwickler und weniger Einnahmen in Kauf.

Zwei Filter schützen die Daten

Bei sogenannten Distillation-Angriffen erzeugen Angreifer Millionen Antworten eines starken KI-Modells und trainieren damit ein kleineres Modell. Besonders begehrt ist das interne Reasoning (Nachdenken), weil es nicht nur die Antwort, sondern auch den Lösungsweg enthält.

Anthropic hatte dieses Reasoning zunächst zusammengefasst. Ein Test auf SWE-bench Verified verdeutlicht den Unterschied. Ein mit vollständigen Gedankengängen trainiertes Modell erreichte 80,4 Prozent, mit den Zusammenfassungen waren es nur noch 71,8 Prozent. Angreifer versuchten daraufhin, die vollständigen Daten mit wechselnden Anweisungen und über Netze aus Hunderttausenden falschen Konten herauszulocken.

Anthropic nennt zwei chinesische KI-Unternehmen als Beispiele. Zhipu habe für GLM-5.3 Cyberfähigkeiten führender US-Modelle destilliert. Bei Kimi wurden hingegen komplette Anfragen direkt an Claude weitergeleitet um daraus Schlüsse zu ziehen.

Kontosperren ergänzen die neue Abwehr

Die neue Abwehr kombiniert drei Maßnahmen. »Preserved Thinking« verhindert bei neueren API-Konten, dass frühere Reasoning-Blöcke verändert werden. Ein zweistufiger Klassifikator erkennt verdächtige Abfragen und wird laufend gegen neue Tricks angepasst. Wiederholte Versuche führen zudem zu strengeren Limits oder Kontosperren.

Auf den stärksten allgemein verfügbaren Claude-Modellen sank die abgegriffene Datenmenge dadurch auf ein Zehntel bis ein Hundertstel. Anthropic sperrte bereits Zehntausende zugehörige Konten, oft innerhalb von zwei Stunden nach Beginn einer Kampagne.

Ganz ohne Folgen für reguläre Kunden bleibt der Schutz nicht. Einige Entwickler mussten ihre Anbindungen ändern. Der Klassifikator blockiert in weniger als 0,1 Prozent der Fälle eine harmlose Anfrage. Seit dem 24. September berechnet Anthropic zudem bestimmte Anfragen, die noch vor einer Antwort gestoppt werden.