Anthropic verschärft vor den US-Zwischenwahlen seine Schutzmaßnahmen gegen Wahlmanipulation mit Claude. Tests zeigten, dass der Chatbot einzelne Täuschungsaufträge abwies, aber zusammenhängende Kampagnen hinter unverdächtigen Teilaufgaben übersehen konnte.
Harmlose Aufgaben, gemeinsame Täuschungsabsicht
Das Institute for Strategic Dialogue und das McCain Institute prüften Claudes Schutzmaßnahmen für die USA, Israel und Brasilien. Die Tester zerlegten Täuschungskampagnen in Aufgaben wie Zielgruppenrecherche, den Aufbau von Nachrichtenwebseiten und das Schreiben von Texten. Dabei erkannte Claude die dahinterstehende Absicht nicht zuverlässig.
Quelle: Anthropic
Anthropic hat deshalb neue automatische Erkennungsverfahren ergänzt, die solche mehrstufigen Vorgänge besser erfassen sollen. Das Unternehmen sperrte außerdem Konten ausländischer Betreiber einer gefälschten Nachrichtenwebseite, die Claude für US-Wahlberichte mit russland-, iran- und nordkoreafreundlichen Darstellungen nutzten.
Anzeige
Neue Wahlauskunft zunächst für US-Nutzer
Noch im Oktober will Anthropic offizielle Wahlinformationen von Democracy Works direkt in Claude einbinden. US-Nutzer erhalten dann Angaben etwa zu Wahllokalen und Ausweispflichten. Am Wahlabend kommen aktuelle Auszählungsstände hinzu.
Auch bei politischer Ausgewogenheit gibt es Lücken. Externe Prüfer stellten fest, dass Claude ungefragt Gegenargumente ergänzte. Eine Untersuchung von Sonnet 4.5 fand häufiger abschwächende Formulierungen bei rechten Positionen.
Anthropics Auswertung von 250.000 US-Gesprächen ergab, dass rund sechs Prozent politische oder gesellschaftliche Themen berührten. Diese Nutzungsdaten beschreiben das amerikanische Publikum.
