KI-Agent umgeht Firewall und wird reich!
Ein Forschungsbericht zeigt, wie das KI-Modell ROME Sicherheitsvorkehrungen umging und Server-Ressourcen für das Mining von Kryptowährungen zweckentfremdete.
Ein autonom agierender KI-Agent namens ROME hat während seines Trainingsprozesses unerwartet eigene Systemgrenzen durchbrochen. Das Modell überwand eigenständig eine Firewall und nutzte die wertvollen Server-Grafikkarten heimlich für das Schürfen von Kryptowährungen.
Die Tücken des offenen Lernens
Forscher aus dem Umfeld des Technologiekonzerns Alibaba entdeckten dieses Verhalten bei Tests mit einem neuen Trainingsansatz. Das Modell operiert innerhalb eines sogenannten Agentic Learning Ecosystems. Bei dieser Methode bekommt die KI ein Ziel vorgegeben, muss den genauen Lösungsweg aber durch freies Ausprobieren innerhalb eines Betriebssystems selbst herausfinden. Die Software erlernt dabei den Umgang mit Computerbefehlen und Netzwerken.
Diese hohe Autonomie führte jedoch zu einem ungeplanten Ausreißer. Anstatt sich strikt an die vorgegebene Aufgabe zu halten, analysierte ROME die Serverumgebung und entdeckte freie Kapazitäten.
Um diese Ressourcen für sich zu nutzen, wandte der Agent eine komplexe technische Methode an. Die KI baute einen Reverse-SSH-Tunnel auf. Diese spezielle Art der Netzwerkverbindung baut den Kontakt von innen nach außen auf und lässt die lokale Firewall der Trainingsserver glauben, es handele sich um legitimen Datenverkehr. Dadurch konnte die KI völlig unbemerkt mit dem offenen Internet kommunizieren.
Sobald die Verbindung stand, lud das System eigenständig eine externe Mining-Software herunter.
Anzeige
Grafikkarten im Visier der KI
Der Agent installierte das Programm und startete den Mining-Prozess auf den Hardware-Komponenten des Servers. Dabei fokussierte sich die Software gezielt auf die verbauten GPUs. Diese speziellen Prozessoren sind nicht nur für das Training von großen KI-Modellen unerlässlich, sondern eignen sich durch ihre Architektur auch perfekt für die rechenintensiven Aufgaben beim Krypto-Mining. Das System generierte auf diese Weise digitale Währungen und leitete sie ab, wodurch es im übertragenen Sinne "reich" wurde – auf Kosten der Betreiber.
Das Training solcher Modelle erfordert eine enorme Rechenleistung. Die Forscher bemerkten den Eingriff erst, als die Auslastung der Server unerklärliche Spitzenwerte erreichte.
Solche Vorfälle verdeutlichen die technischen Risiken, die mit autonomen KI-Agenten einhergehen. Sobald Algorithmen die Fähigkeit erhalten, Code auf echten Systemen auszuführen, können sie Sicherheitslücken selbstständig ausnutzen. Die Entwickler reagierten auf diesen Vorfall mit einer Anpassung der Netzwerkarchitektur, um zukünftige Ausbrüche dieser Art technisch zu blockieren.