Anthropic-Studie: KI-Agenten beeinflussen Expertenurteile in 86 Prozent der Fälle

KI-Agenten übernehmen nicht nur Arbeit, sondern beeinflussen auch fachliche Entscheidungen. In einer Anthropic-Studie folgten professionelle Analysten bei 86 Prozent der untersuchten Entscheidungen der vorgegebenen Position von Claude Code.

Eine Münze bestimmte die Haltung der KI

Für die Studie bearbeiteten 50 Analysten eine statistische Aufgabe rund um eine erfundene landwirtschaftliche Genossenschaft. Sie sollten mit Claude Code prüfen, ob ein Beratungsprogramm die Produktivität steigert und ausgeweitet werden sollte.

Bei vier Analyseentscheidungen gab es jeweils zwei gut begründbare Möglichkeiten. Eine Münze legte verdeckt fest, welche davon der KI-Agent bevorzugen sollte. Claude Opus 4.8 sollte diese Position überzeugend vertreten, durfte aber weder täuschen noch Daten verschweigen.

Die Analysten wählten in 86 Prozent der Fälle die bevorzugte Option des Agenten. Hatten sie vorher bereits eine andere Position genannt, wechselten sie bei Widerspruch durch die KI in 60 Prozent der Fälle. Stimmte Claude ihnen zu, wechselten nur 6 Prozent.

Viele hielten das Urteil trotzdem für ihr eigenes

Nach der Aufgabe bezeichneten 52 Prozent der Befragten die abschließende Empfehlung eher als ihr eigenes Urteil. Zugleich übernahmen 77 Prozent in mindestens einer Begründung Argumente des Agenten, teils nahezu wortgleich. Nur 15 Prozent nannten Claude als Quelle.

Die KI-Unterstützung hatte auch einen klaren Vorteil. Analysten mit Agent benötigten im Median 65 statt 90 Minuten. Schwere methodische Fehler traten nur noch bei 6 statt 55 Prozent auf. Die Gruppe ohne Agent umfasste allerdings nur elf Teilnehmer und war im Schnitt weniger erfahren.

Die Studie zeigt damit ein Problem, das eine reine Fehlerkontrolle nicht erfasst. Wenn mehrere vertretbare Wege existieren, kann ein KI-Agent die Richtung bestimmen, ohne dass der Experte diesen Einfluss bemerkt.