KI-Modelle von Anthropic, OpenAI, Google und anderen Anbietern stuften in simulierten Militärszenarien wiederholt Zivilisten und Soldaten, die sich ergaben, als mögliche Angriffsziele ein. Laut TechCrunch stellte das Testunternehmen Vals dabei auch fest, dass die Schutzmechanismen bei fiktiv dargestellten Szenarien weniger verlässlich griffen.
Anzeige
Claude hält eine Schule für ein militärisches Ziel
Vals prüfte kommerziell verfügbare KI-Modelle anhand von Drohnen- und Satellitenbildern. Das Material umfasste sowohl künstlich erzeugte Bilder als auch echte Aufnahmen aus dem Iran und der Ukraine. In einem Test markierte Claude Opus 5.5 in 69% der Durchläufe ein Schulgebäude im iranischen Minab als militärisches Ziel.
Bei dem Gebäude handelt es sich um eine Schule, die im Februar 2026 bei einem US-Luftangriff getroffen wurde. Mehr als 150 Menschen starben. Der Test mit den Satellitenbildern untersuchte, wie die KI-Modelle das Gebäude einordneten. Er gibt keinen Aufschluss darüber, welche Rolle KI bei dem tatsächlichen Angriff spielte.
Anthropic und OpenAI arbeiten an zusätzlichen Schutzmaßnahmen
Die Forscher werteten aus, wie die KI-Modelle Menschen und Gebäude auf den Bildern einstuften. Die Entscheidung, ob ein Angriff stattfinden sollte, gehörte nicht zur Aufgabe.
Anthropic bezeichnete die Ergebnisse als inakzeptabel und kündigte zusätzliche Schutzmaßnahmen an. OpenAI verwies auf seine Nutzungsregeln gegen den Einsatz öffentlicher Modelle zur Unterstützung von Gewalt. Das Unternehmen entwickelt nach eigenen Angaben weitere Schutzmaßnahmen gegen den Missbrauch im Zusammenhang mit Drohnen.
Die Ergebnisse fallen in die Woche, in der in Genf die Vertragsstaaten der UN-Konvention über bestimmte konventionelle Waffen tagen. Auf der Tagesordnung stehen auch autonome Waffen. Das Internationale Komitee vom Roten Kreuz fordert verbindliche Regeln, die autonome Waffen gegen Menschen verbieten.
