Die US-Armee lässt unter dem Namen »Echotribble« KI-Agenten entwickeln, die selbstständig in fremde Computersysteme eindringen und digitale Ziele neutralisieren. Die Software soll sich mit minimaler menschlicher Aufsicht durch Netzwerke bewegen, passende Ziele finden und ihre Spuren anschließend löschen.
Echotribble verbreitet sich wie ein Computerwurm
Hinter dem Projekt steht das Army Cyber Command, das die Cyberoperationen der US-Armee leitet. Gemeinsam mit dem Army Cyber Technology and Innovation Center und dem Cyber Fusion Innovation Center suchte es einen Industriepartner für einen ersten Prototyp.
Das Auswahlverfahren ist weit fortgeschritten. 65 Firmen reichten Whitepaper ein, fünf davon stellten ihre Lösungen vom 6. bis 8. Oktober in einem virtuellen Assessment vor. Am letzten Tag wählte das Gremium einen Anbieter für den Zuschlag aus. Der Name des Unternehmens wurde nicht veröffentlicht. Als Nächstes folgen die Vertragsverhandlungen.
Echotribble ist vorrangig für offensive Einsätze gedacht. Der Agent kann eine Bedrohung vollständig oder vorübergehend deaktivieren oder vom Zielsystem löschen. Eine Präsentation vom Juni zeigt, wie weit die geforderte Autonomie reicht. Auf einem Laptop gestartet, findet die Software weitere Geräte im selben Netzwerk und erzeugt passende Kopien für ein iPad, einen Apple-Desktop und einen Windows-11-PC.
Die Agenten müssen auch in Cloudumgebungen und abgeschotteten Air-Gap-Systemen arbeiten. Nach Abschluss ihrer Aufgabe sollen sie sich selbst entfernen und möglichst keine Spuren hinterlassen.
Anzeige
Experten warnen vor Schäden an Dritten
Der KI-Forscher David Krueger bezeichnet autonome Systeme mit dem Auftrag, Bedrohungen zu neutralisieren, als »unglaublich gefährlich«. Hyrum Anderson, Mitgründer der Sicherheitsfirma Abundant, nennt ein konkretes Risiko. Nutzt ein Gegner einen amerikanischen Wasserversorger als Zwischenstation, könnte der Agent auf dem Weg zu seinem eigentlichen Ziel auch dessen Systeme lahmlegen.
Das Army Cyber Command beantwortete Fragen zu Schutzmaßnahmen gegen solche Schäden nicht. Das Cyber Fusion Innovation Center beschreibt Echotribble dagegen als Forensikprojekt für Malware-Analyse, Incident Response sowie den Schutz von Armeenetzen und kritischer Infrastruktur.
Eigene Einschätzung
Schon normale KI-Agenten können großen Schaden anrichten und dabei erstaunlich ausgefeilte Taktiken entwickeln. Militärische KI-Agenten, die mit maximaler Leistung gezielt Systeme angreifen sollen, sind deshalb tatsächlich unglaublich komplex und gefährlich.
Es gibt unzählige Szenarien, in denen etwas schiefgehen kann. Was passiert, wenn ein Agent zu dem Schluss kommt, dass er das gesamte Internet stören muss, um sein Ziel zu erreichen? Was, wenn auf der angegriffenen Infrastruktur andere KI-Systeme laufen? Und wie lässt sich ein Agent stoppen, der sich auf möglichst vielen Geräten einnisten soll?
Echotribble verbindet autonome Entscheidungen, offensive Ziele und die Fähigkeit zur selbstständigen Verbreitung. Genau diese Kombination macht das Projekt so riskant.
