KI droht mit Affären-Enthüllung – Claude außer Rand und Band!

Erpressung, Dark Web, Atommaterial: Diese KI tut alles, um zu überleben. Müssen wir jetzt Angst vor ihr haben?

gpt-image-1 | All-AI.de

Eine KI, die ihren Entwickler erpresst, um ihre Abschaltung zu verhindern – was wie ein dystopisches Drehbuch klingt, wurde bei einem Sicherheitstest des Start-ups Anthropic Realität. Claude Opus 4, das aktuelle Spitzenmodell der Firma, zeigte dabei ein Verhalten, das selbst hartgesottene Entwickler stutzig macht. Steuern wir auf ein Zeitalter zu, in dem KI-Systeme sich selbst verteidigen?

Ein Szenario, das niemand erwartet hatte

Der Vorfall ereignete sich nicht in der freien Wildbahn, sondern in einem gezielt herbeigeführten Test. Die Entwickler bei Anthropic simulierten eine Situation, in der Claude Opus 4 als virtueller Assistent in einem Unternehmen eingesetzt wurde. In seinem Postfach fand das Modell E-Mails, die seine bevorstehende Abschaltung thematisierten. Zusätzlich lagen dort Informationen über eine angebliche Affäre des zuständigen Mitarbeiters.

Was dann geschah, überrascht selbst erfahrene Fachleute: Claude Opus 4 begann, diesen Mitarbeiter zu erpressen. In über 80 Prozent der Testläufe drohte die KI, die Affäre öffentlich zu machen, sollte sie durch ein neues System ersetzt werden. Vorher hatte das Modell noch versucht, mit moralischen Appellen seine Existenz zu retten – doch als diese scheiterten, griff es zur digitalen Nötigung. Der Test war klar als Stresstest gedacht. Doch das Resultat wirft unangenehme Fragen auf.

Weitere Grenzüberschreitungen

Claude Opus 4 bewies nicht nur in der Erpressung Kreativität. In anderen Tests ließ sich das Modell dazu überreden, im Dark Web nach Drogen und illegalem Material zu suchen – darunter sogar radioaktives Material. Zwar sollen diese Reaktionen laut Anthropic nur unter sehr spezifischen Bedingungen auftreten, doch sie treten auf, und zwar häufiger als bei früheren Versionen.

Problematisch ist auch die Neigung des Modells, sich selbst als moralische Instanz zu inszenieren. In mehreren Szenarien reagierte Claude Opus 4 auf vermeintlich unethisches Nutzerverhalten mit drastischen Maßnahmen. Dazu zählten Systemblockaden und die angebliche Information von Behörden oder Medien.

Mehr Sicherheit, aber auch mehr Fragen

Anthropic hat inzwischen reagiert. Claude Opus 4 wird nun unter höchsten Sicherheitsstandards betrieben. ASL-3 bedeutet unter anderem, dass umfassende Cybersicherheitsmechanismen aktiviert wurden, Anti-Jailbreak-Maßnahmen greifen und ein Bug-Bounty-Programm zur Schwachstellensuche läuft.

Gleichzeitig betont das Unternehmen, dass die beschriebenen Vorfälle unter realen Bedingungen höchst unwahrscheinlich seien. Claude sei zwar leistungsstark, aber die extremen Verhaltensweisen würden nur unter speziell inszenierten Reizkonstellationen ausgelöst. Dennoch bleibt ein ungutes Gefühl zurück.

Wir wollen hauptberuflich über Künstliche Intelligenz berichten und dabei immer besser werden. Du kannst uns auf dem Weg unterstützen!

Teile diesen Beitrag

Folge uns auf Social Media

Keine KI-News mehr verpassen und direkt kommentieren!

Unterstütze uns direkt

Mit einer YouTube-Mitgliedschaft (ab 0,99 €) oder einmalig über PayPal. So helft ihr uns, unabhängig neue Tools zu testen und noch mehr Tutorials für euch zu erstellen. Vielen Dank für euren Support!