Eine Schule

KI-Modelle markieren Zivilisten und eine Schule als Angriffsziele

Andreas Becker GPT-Images-2.6
Eine Schule

KI-Modelle von Anthropic, OpenAI, Google und anderen Anbietern stuften in simulierten Militärszenarien wiederholt Zivilisten und Soldaten, die sich ergaben, als mögliche Angriffsziele ein. Laut TechCrunch stellte das Testunternehmen Vals dabei auch fest, dass die Schutzmechanismen bei fiktiv dargestellten Szenarien weniger verlässlich griffen.

Anzeige

Claude hält eine Schule für ein militärisches Ziel

Vals prüfte kommerziell verfügbare KI-Modelle anhand von Drohnen- und Satellitenbildern. Das Material umfasste sowohl künstlich erzeugte Bilder als auch echte Aufnahmen aus dem Iran und der Ukraine. In einem Test markierte Claude Opus 5.5 in 69% der Durchläufe ein Schulgebäude im iranischen Minab als militärisches Ziel.

Bei dem Gebäude handelt es sich um eine Schule, die im Februar 2026 bei einem US-Luftangriff getroffen wurde. Mehr als 150 Menschen starben. Der Test mit den Satellitenbildern untersuchte, wie die KI-Modelle das Gebäude einordneten. Er gibt keinen Aufschluss darüber, welche Rolle KI bei dem tatsächlichen Angriff spielte.

Anthropic und OpenAI arbeiten an zusätzlichen Schutzmaßnahmen

Die Forscher werteten aus, wie die KI-Modelle Menschen und Gebäude auf den Bildern einstuften. Die Entscheidung, ob ein Angriff stattfinden sollte, gehörte nicht zur Aufgabe.

Anthropic bezeichnete die Ergebnisse als inakzeptabel und kündigte zusätzliche Schutzmaßnahmen an. OpenAI verwies auf seine Nutzungsregeln gegen den Einsatz öffentlicher Modelle zur Unterstützung von Gewalt. Das Unternehmen entwickelt nach eigenen Angaben weitere Schutzmaßnahmen gegen den Missbrauch im Zusammenhang mit Drohnen.

Die Ergebnisse fallen in die Woche, in der in Genf die Vertragsstaaten der UN-Konvention über bestimmte konventionelle Waffen tagen. Auf der Tagesordnung stehen auch autonome Waffen. Das Internationale Komitee vom Roten Kreuz fordert verbindliche Regeln, die autonome Waffen gegen Menschen verbieten.

Von Menschen für Menschen

Jeder Artikel entsteht durch menschliche Ideen und sorgfältige Prüfung. KI unterstützt uns vor allem bei Recherche und Feinschliff. Wir freuen uns über jede Unterstützung.

Jeder Beitrag zählt – auch das Teilen.