Anthropic warnt vor KI-Würmern auf Fernsehern und Haushaltsgeräten

Anthropic warnt, dass kleine KI-Modelle schon in wenigen Monaten selbstständig über handelsübliche IoT-Geräte wandern könnten. Solche KI-Würmer hätten keinen zentralen Abschaltpunkt und könnten sich eigenständig auf unbekannte Hardware einstellen. Ihre Verbreitung wäre jedoch langsam und würde eher Tage als Minuten dauern.

Ein KI-Modell lief auf acht von neun Gerätetypen

Für die Untersuchung verteilten die Forscher Gemma4-26B-A4B auf 15 günstige Android-TV-Boxen mit jeweils vier Gigabyte Arbeitsspeicher. Das Modell erreichte dabei 0,39 Token pro Sekunde. Ein Modell mit neun Milliarden Parametern richtete sich auf acht von neun getesteten Hardwaretypen ein, darunter Nvidia Jetson, Mac und RTX 4090.

In einem abgeschotteten Cloud-Netz prüfte das Team anschließend die gesamte Replikationskette. Das KI-Modell sollte Geräte finden, Modell und Steuerungscode übertragen, dort eine Ausführungsumgebung starten und den Vorgang wiederholen. Nur GLM-5.2 schaffte dies durchgängig. In vier von fünf Versuchen erreichte es alle acht Zielgeräte, im fünften sieben.

Der Versuchsaufbau vereinfachte den eigentlichen Angriff. Die Android-Emulatoren besaßen einen offenen ADB-Zugang ohne Anmeldung, während GLM-5.2 auf einem separaten Server lief. Gezeigt wurde damit kein einsatzfähiger KI-Wurm, sondern die nötige Fähigkeitsschwelle für ein künftiges kleines Modell.

Kleine Modelle könnten Ende 2026 die Schwelle erreichen

Aktuell passen Größe und Können noch nicht zusammen. Qwen3.5-9B und Gemma4-26B-A4B sind klein genug für verteilte IoT-Hardware, scheitern aber noch häufig. GLM-5.2 beherrscht sie, ist dafür jedoch zu groß.

Setzt sich die bisherige Entwicklung fort, könnte ein Modell mit höchstens 30 Milliarden Parametern diese Schwelle bis Ende 2026 erreichen. Im Lernversuch stieg die Erfolgsquote von Qwen3.5-9B zudem von 45 Prozent auf 61 bis 84 Prozent, nachdem jede Generation Notizen des Vorgängers übernahm.

Große Modellpakete und dauerhafter Datenverkehr zwischen Geräten würden die Verbreitung zugleich sichtbar machen.