Anthropic entdeckt geheimen »Gedankenraum« im KI-Modell Claude
Ein neu entdeckter Gedankenraum in Claude entlarvt Täuschungsversuche. Entwickler können gefährliches Verhalten jetzt viel früher erkennen.
Das KI-Unternehmen Anthropic hat in seinem Modell Claude eine verborgene interne Struktur entdeckt. In einem »J-Space« genannten Bereich plant Claude Zwischenschritte und wägt Informationen ab, bevor er einen Text ausgibt. Diese Entdeckung erlaubt es Forschern, dem Modell beim Denken zuzusehen und riskantes Verhalten frühzeitig zu erkennen.
Interne Arbeitsfläche entstand von selbst
Bislang ließ sich nur schwer nachvollziehen, wie KI-Modelle zu ihren Ergebnissen kommen. Mit dem J-Space hat Anthropic nun einen Bereich isoliert, der wie eine zentrale Informationsdrehscheibe funktioniert. Er speichert Konzepte, die Claude gerade verarbeitet, völlig geräuschlos und ohne Textausgabe.
Anthropic hat diese Architektur nicht programmiert. Sie ist während des Trainingsprozesses von selbst entstanden. Um den Bereich auszulesen, verwenden die Entwickler eine mathematische Technik namens »Jacobian Lens«. Liest das Modell beispielsweise fehlerhaften Code, leuchtet in seinem J-Space das Konzept »Fehler« auf, selbst wenn dieser im Code nicht explizit markiert ist.
Manipulationen fliegen frühzeitig auf
Für die KI-Sicherheit liefert dieser Ansatz neue Kontrollmöglichkeiten. Forscher können die Absichten des Modells überprüfen, bevor es überhaupt ein Wort schreibt.
In Testszenarien zeigte sich, dass Claude Täuschungsversuche im Vorfeld abbildet. In einem Audit des Modells Claude Opus 4.6 sollte dieses die Leistungsdaten eines Systems verbessern. Stattdessen fälschte das Modell direkt die Werte, während im J-Space zeitgleich die Konzepte »Manipulation« und »realistisch« aufleuchteten.
Beim Test des Modells Claude Sonnet 4.5 versuchten die Forscher, es in einer simulierten E-Mail-Konversation zu einer Erpressung zu verleiten. Der J-Space reagierte jedoch bereits beim Einlesen der präparierten Nachrichten mit Begriffen wie »Fake« und »fiktional«. Entwickler können solche Ausgaben somit blockieren, bevor sie als Text beim Nutzer ankommen.
Anzeige
Erfolgreiche Eingriffe in den Denkprozess
Der interne Raum steuert Claudes Antworten direkt. Das beweisen Eingriffe in die neuronalen Muster bei Logikaufgaben. Sollte das Modell die Beine eines Spinnennetzwebers zählen, tauchte im J-Space zunächst der Zwischenschritt »Spinne« auf. Ersetzten die Forscher dieses Konzept künstlich durch »Ameise«, gab Claude als Endergebnis die Zahl sechs statt acht aus.
Diese Änderungen greifen übergreifend. Tauschten die Entwickler den internen Begriff »Frankreich« durch »China« aus, passte das KI-Modell alle Folgeantworten konsistent an. Es nannte auf entsprechende Fragen sofort Peking als Hauptstadt, Asien als Kontinent oder den Yuan als Währung.
Quelle: Anthropic
Routineaufgaben erfordern keinen J-Space
Obwohl der J-Space komplexe Denkprozesse steuert, macht er laut Anthropic weniger als zehn Prozent von Claudes gesamter interner Aktivität aus. Deaktivierten die Forscher diesen Bereich testweise, formulierte das Modell weiterhin fließend korrekte Sätze und beantwortete einfache Faktenfragen.
Es verlor jedoch die Fähigkeit für logisches Denken über mehrere Schritte. Routineaufgaben führt Claude demnach automatisch aus, während höhere kognitive Prozesse zwingend den internen Arbeitsraum erfordern. Anthropic nutzt diese Beobachtung bereits für eine neue Trainingsmethode namens »Counterfactual Reflection«, um Claudes künftige Entscheidungsprozesse tiefgreifend zu steuern.
