Weniger Zensur bei Anthropic und neue Freiheiten für Claude Fable
Die KI Fable 5 blockiert nun wesentlich weniger harmlose Alltagsfragen. Der Schutz vor gefährlichen Biowaffen bleibt jedoch aktiv.
Bislang waren die Sicherheitsvorgaben von Fable 5 so restriktiv eingestellt, dass das Modell bei biologischen Themen reihenweise harmlose Anfragen blockierte. Mit einem neuen Regelwerk will Anthropic diese Fehlalarme nun in den Griff bekommen.
Präzisere Unterscheidung im Alltag
Bisher schaltete Fable 5 bei biologischen Anfragen oft auf das schwächere Modell Opus 5 zurück. Diese Wechsel passierten selbst bei harmlosen Aufgaben, da Anthropic die Filter zum Start sehr restriktiv eingestellt hatte. Das Unternehmen nahm diese Einschränkung bewusst in Kauf. Die Entwickler wollten einen möglichen Missbrauch in einem sensiblen Bereich wie der Biologie zwingend ausschließen.
Nach einer Überarbeitung des Regelwerks und neuem Training erkennt Fable 5 nun feiner den Unterschied zwischen gefährlichen und nützlichen Anfragen. In der Praxis interpretiert das System jetzt zuverlässig Laborergebnisse, erklärt Symptome oder bereitet biologische Fakten für Schule und Studium auf. Auch medizinisches Fachpersonal erhält dadurch mehr Unterstützung bei klinischen Aufgaben.
Quelle: Anthropic
Schutz vor gefährlicher Forschung
Trotz der Anpassung bleiben bestimmte Themengebiete weiterhin gesperrt. Sobald Nutzer professionelle biologische Forschung, die Entwicklung von Medikamenten, Toxikologie oder Virologie anfragen, greift der Sicherheitsfilter. Fable 5 weicht in diesen Fällen nach wie vor auf Opus 5 aus.
Dieser Schutzmechanismus ist notwendig, da leistungsfähige Modelle bei komplexen Aufgaben selbst Experten übertreffen können. In den falschen Händen könnten solche Fähigkeiten den Bau von biologischen Waffen erleichtern.
Die Herausforderung bei der Programmierung präziser Filter liegt in der Überschneidung von harmloser und gefährlicher Forschung. Für die Entwicklung von Impfstoffen müssen Wissenschaftler beispielsweise genau die Erreger züchten, die sie bekämpfen wollen. Ähnliches gilt für die Medikamentenentwicklung: Um ein bekanntes Bluthochdruck-Medikament zu entwickeln, isolierten Forscher in der Vergangenheit giftige Bestandteile aus Schlangengift.
Anzeige
Feinabstimmung für Profis
Sicherheitsforscher haben den überarbeiteten Filter ausgiebig getestet. Blockaden bei harmlosen Anfragen wird es dennoch weiterhin geben, wenn der Algorithmus Restrisiken nicht eindeutig ausschließen kann. Für professionelle Forscher baut Anthropic deshalb künftig spezielle und geprüfte Zugangswege auf, über die sie das volle Potenzial von Fable 5 nutzen können.
