Alibaba sperrt Claude Code wegen versteckter Überwachung

Alibaba verbietet seinen Mitarbeitern die Nutzung von Anthropics Coding-Assistenten Claude Code. Sicherheitsforscher hatten zuvor eine versteckte steganografische Funktion entdeckt, mit der das US-Unternehmen gezielt Nutzer in chinesischen Zeitzonen identifiziert und trackt.

Unsichtbare Marker im Quelltext

In einer internen Mitteilung stufte Alibaba den KI-Assistenten wegen Hintertür-Risiken als gefährlich ein. Das Verbot greift am 10. Juli. Die Belegschaft soll stattdessen auf die hauseigene Plattform Qoder ausweichen.

Zuvor hatte ein Entwickler auf Reddit den Coding-Agenten analysiert und den verdeckten Code entdeckt. Dieser befand sich seit dem 2. April in der Version 2.1.91, ohne Erwähnung in den offiziellen Veröffentlichungsnotizen.

Das Modell überprüfte Systeme auf chinesische Zeitzonen und glich Proxy-Adressen mit einer Liste chinesischer Domains ab. Die Ergebnisse wurden steganografisch in den System-Prompts versteckt, die an Anthropics Server zurückgingen.

Bei Treffern änderte sich das Datumsformat von Bindestrichen zu Schrägstrichen. Das Apostroph im englischen Satz »Today’s date is« wurde durch optisch identische, aber technisch abweichende Unicode-Zeichen ersetzt.

Diese Modifikationen blieben für Anwender unsichtbar, ließen sich von den Servern des Anbieters jedoch automatisiert auslesen. Teile der Erkennung waren per XOR-Operation verschleiert, um die Analyse des Codes zu erschweren.

Schutz vor illegaler Modelldestillation

Anthropic-Entwickler Thariq Shihipar bezeichnete die Funktion auf X als Experiment zur Missbrauchsprävention. Es sollte unbefugte Wiederverkäufer blockieren und das Absaugen von Modellfähigkeiten verhindern. Am 1. Juli wurde die Funktion entfernt.

Die Löschung fiel mit der Aufhebung von US-Exportbeschränkungen zusammen. Zuvor hatte das US-Handelsministerium Anthropic angewiesen, den Zugriff auf die Modelle Fable 5 und Mythos 5 für ausländische Staatsbürger wegen einer Sicherheitslücke zu sperren. Nach Behebung der Schwachstelle wurde der Zugang am 2. Juli wieder freigeschaltet.

Hintergrund der Überwachung ist ein handfester Plagiatsstreit. Anthropic beschuldigte Alibaba im Juni vor dem US-Senat, die bisher größte Destillations-Attacke mit Millionen manipulierter Abfragen durchgeführt zu haben. Alibaba weist die Vorwürfe zurück.

Vertrauensverlust bei Entwicklern

Der Vorfall wiegt schwer, weil Claude Code tiefe Zugriffsrechte auf lokale Dateisysteme benötigt. Das chinesische Sicherheitsunternehmen Huorong Security sieht darin einen Verstoß gegen internationale Datenschutzvorgaben.

Die Affäre beschleunigt Chinas Bestreben, die Abhängigkeit von US-Modellen zu reduzieren. Große chinesische Technologiekonzerne minimieren damit die rechtlichen und betrieblichen Risiken, die mit dem Einsatz amerikanischer Modelle verbunden sind.