Das Desaster um Claude Fable 5 »Kolumne«
Anthropic warnte lange vor den Gefahren seines neuen Modells. Doch die wahre Gefahr für die Tech-Welt ist das Unternehmen selbst.
Wochenlang hat Anthropic sein neues KI-Modell Claude Mythos als zu gefährlich für die Öffentlichkeit zurückgehalten. Jetzt ist es auf dem Markt – und offenbart keine globalen Sicherheitsrisiken, sondern die Methoden eines Unternehmens, das seine Marktmacht rücksichtslos zementieren will.
Die Wissenschaft
Wer verstehen will, was bei Anthropic derzeit schiefläuft, muss sich den Umgang mit der Wissenschaft ansehen. Das Unternehmen hat in Claude Fable 5 Mechanismen eingebaut, die Anfragen zur KI-Entwicklung heimlich sabotieren. Wer das KI-Modell nach technischem Design oder Abläufen für das Pretraining fragt, bekommt unsichtbar manipulierte Antworten.
Anthropic rechtfertigt das damit, man wolle das Kopieren eigener Technologie verhindern. Die Umsetzung ist jedoch ein fataler Schlag gegen die Forschung.
Wenn ein KI-Modell eine Antwort transparent verweigert, kenne ich als Nutzer meine Grenzen. Wenn es aber heimlich drosselt und absichtlich schwache Ergebnisse liefert, verliere ich jede Arbeitsgrundlage. Forscher wissen dann nicht mehr, ob ihre eigene Idee schlecht war, ihr Code fehlerhaft ist oder ob Anthropic im Hintergrund den Stecker gezogen hat. Für Start-ups, akademische Gruppen und unabhängige Entwickler wird ein solches System völlig unbrauchbar.
Erst nach massiven Protesten aus der Wissenschaftszene ruderte Anthropic zurück. Man habe den falschen Kompromiss gewählt, hieß es. Die heimliche Sabotage, die angeblich nur 0,03 Prozent des Traffics betraf, soll künftig sichtbar gemacht werden. Doch das Vertrauen ist verspielt.
Anzeige
Der Datenschutz
Hinzu kommt ein Datenschutz-Fiasko. Ältere Modelle liefen unter strengen Regeln, bei denen keine Daten gespeichert wurden. Claude Fable 5 verlangt nun die Aufbewahrung von Prompts und Ausgaben für volle 30 Tage, um neue Sicherheitsfilter zu trainieren. Werden diese Filter ausgelöst, behält Anthropic die Daten bis zu zwei Jahre.
Das Ergebnis dieses Kontrollzwangs: Sogar Microsoft schränkt die interne Nutzung ein. Der Konzern hat Fable 5 für die eigenen Mitarbeiter aus der internen Modellauswahl verbannt. Die rechtlichen Sorgen um Kundendaten und vertrauliche Informationen sind den Anwälten in Redmond zu groß. Wenn ein enger Partner die Nutzung aus Sicherheitsbedenken verbietet, ist der angebliche Fortschritt in Wahrheit ein Rückschritt.
Manifest von Dario Amodei
All diese Vorfälle werfen ein neues Licht auf das Manifest von Anthropic-Chef Dario Amodei. Er forderte zuletzt staatliche Kontrolle und strenge Lizenzen für große KI-Modelle. Inzwischen wirkt das nicht mehr wie die hehre Sorge um die Zukunft der Menschheit. Es wirkt wie eine knallharte Lobby-Strategie.
Wer KI als zu gefährlich für den freien Wettbewerb deklariert, fordert eine Regulierung, die sich nur noch Konzerne mit Milliardenbudgets leisten können. Der Staat soll als Türsteher fungieren, um die eigene Vormachtstellung abzusichern. Aus KI für alle wird so sehr schnell KI für sehr wenige.
Der Bumerang
Jetzt hat die US-Regierung genau das getan, was Anthropic in unzähligen Papieren gefordert hat – der Staat greift als Regulator hart durch. Doch da es nun das eigene Premium-Produkt trifft, wehrt sich das Unternehmen plötzlich lautstark gegen die Einschätzung der Behörden.
Das entlarvt die Doppelmoral. Warum sollte Anthropic frei über seine Modelle entscheiden dürfen, während man für den gesamten restlichen Markt strenge staatliche Daumenschrauben fordert? Wer den Staat als Türsteher anheuert, darf sich nicht beschweren, wenn er selbst nicht in den Club gelassen wird.
Vom Hype um das beste KI-Modell der Welt bleiben am Ende nur Fragezeichen. Anthropic predigt offene Forschung und Sicherheit, baut aber in Wahrheit ein geschlossenes System, das Nutzer bespitzelt und Konkurrenten sabotiert.
Vielleicht ist das aber auch nur ein Vorgeschmack auf eine Zwei-Klassen-Gesellschaft bei KI. Amerika first...
