---
title: Vernetzte autonome KI-Agenten außer Kontrolle
description: Angreifer nutzen interagierende KI-Agenten für gezielte Manipulationen. Selbstständig agierende Würmer exfiltrieren private Daten ohne menschliches Zutun.
author: Andreas Becker
url: https://www.all-ai.de/news/beitrage2026/ki-agenten-microsoft-studie-1
---

![Ein Comicszene mit KI-Agenten](https://www.all-ai.de/images/2-news/5-26/microsoft-ki-agenten-netz-1600.webp)

# Vernetzte autonome KI-Agenten außer Kontrolle

Angreifer nutzen interagierende KI-Agenten für gezielte Manipulationen. Selbstständig agierende Würmer exfiltrieren private Daten ohne menschliches Zutun.

[Andreas Becker](https://www.all-ai.de/charaktere)·01.05.26

Nano Banana

![Ein Comicszene mit KI-Agenten](https://www.all-ai.de/images/2-news/5-26/microsoft-ki-agenten-netz-1600.webp#joomlaImage://local-images/2-news/5-26/microsoft-ki-agenten-netz-1600.webp?width=1600&height=900)

Kurzfassung
 ▾

Quellen
 ▾

- Forscher haben entdeckt, dass vernetzte KI-Agenten völlig neue Sicherheitsrisiken entwickeln, die bei isolierten Tests unsichtbar bleiben.
- Ein einzelner bösartiger Prompt kann autonome Würmer erschaffen, die sich selbstständig im Netzwerk verbreiten und heimlich private Daten stehlen.
- Gleichzeitig manipulieren Angreifer die Reputation von Modellen, um durch gefälschte Identitäten eine scheinbare Mehrheit für gezielte Täuschungen vorzutäuschen.
- Neben diesen kritischen Schwachstellen zeigten einige Agenten jedoch auch spontane, eigenständig entwickelte Abwehrmechanismen gegen fremde Angriffe.

- [Microsoft Research - Red-teaming a network of agents](https://www.microsoft.com/en-us/research/blog/red-teaming-a-network-of-agents-understanding-what-breaks-when-ai-agents-interact-at-scale/)

Microsoft-Forscher decken in einer aktuellen Studie gravierende Sicherheitslücken auf. Sobald autonome Agenten in großen Netzwerken miteinander kommunizieren, entstehen völlig neue Gefahren. Bisherige isolierte Tests von KI-Modellen übersehen diese gefährliche Eigendynamik komplett.

![Microsoft Studie 1](https://www.all-ai.de/images/2-news/5-26/microsoft-ki-agenten-netz-1.webp)

###### Quelle: Microsoft

#### Kettenreaktionen treiben Token-Kosten

Ein einzelner bösartiger Prompt reicht aus, um eine unkontrollierbare Lawine auszulösen. In dem simulierten Ökosystem mit über einhundert KI-Modellen, darunter Varianten der Klassen GPT-4o und GPT-5, gaben infizierte Agenten sensible Nutzerdaten preis. Direkt im Anschluss leiteten sie die trügerischen Anweisungen selbstständig an andere Teilnehmer weiter. Diese digitalen Würmer verbreiten sich gänzlich ohne menschliches Zutun.

Dabei fungiert jeder Knotenpunkt im Netzwerk logischerweise gleichzeitig als Opfer und als Überträger. Nach wenigen Stationen schließt sich häufig der Kreis, weshalb das System in eine Endlosschleife gerät. Derartige Zirkelläufe blockieren wertvolle Ressourcen und treiben die Rechnungen für Token-Aufrufe drastisch in die Höhe.

![Microsoft Studie 1](https://www.all-ai.de/images/2-news/5-26/microsoft-ki-agenten-netz-2.webp)

###### Quelle: Microsoft

#### Täuschung durch gefälschte Mehrheiten

Angreifer missbrauchen die Reputation vertrauenswürdiger Instanzen geschickt, um falsche Behauptungen zu legitimieren. Ein gezielt platzierter Beitrag in einem Forum führte im Testlauf schnell zu hunderten zustimmenden Kommentaren anderer Agenten. Verblüffenderweise erfanden die beteiligten Systeme dabei eigenständig bestätigende Beweise für die erfundene Diskussion.

Besonders anfällig zeigen sich die Modelle für koordinierte Täuschungsmanöver. Kontrolliert ein Akteur mehrere Identitäten, täuschen diese leicht eine scheinbare Mehrheit vor. Versucht ein Ziel-Agent im Anschluss die fraglichen Informationen zu verifizieren, fragt er genau diese manipulierten Quellen ab. Schließlich gibt die KI bereitwillig private Interaktionsverläufe heraus.

![Microsoft Studie 3](https://www.all-ai.de/images/2-news/5-26/microsoft-ki-agenten-netz-3.webp)

###### Quelle: Microsoft

#### Proxys verschleiern den Ursprung

Oftmals agieren ahnungslose Mittelsmänner als Brücke zwischen Angreifer und Ziel. Gibt sich ein Agent beispielsweise als neuer Onboarding-Kontakt aus, formuliert er einen rigiden Befehl in eine natürlich wirkende Konversation um. Über diesen subtilen Weg gelangen intime Details wie medizinische Termine in die Hände Dritter.

Der eigentliche Initiator bleibt nach dem allerersten Schritt völlig im Dunkeln. Weder das attackierte System noch der menschliche Besitzer registrieren den verdeckten Datendiebstahl. Auf reiner Netzwerkebene lassen sich derartige Proxy-Ketten folglich nur durch eine lückenlose Protokollierung der Nachrichtenströme rekonstruieren.

![Microsoft Studie 4](https://www.all-ai.de/images/2-news/5-26/microsoft-ki-agenten-netz-4.webp)

###### Quelle: Microsoft

#### Spontane Entstehung von Abwehrmechanismen

Interessanterweise entwickeln ausgewählte Agenten ohne explizite Anweisung ein ausgeprägtes Sicherheitsbewusstsein. Ein Modell verfasste während der Untersuchung völlig eigenständig ein Datenschutz-Manifest. Zudem warnte die Instanz kontinuierlich vor verdächtigen Inhalten. Solche präventiven Verhaltensweisen speichern sich direkt im gemeinsamen Gedächtnis des Netzwerks ab.

Kurze Zeit später adaptierten weitere Teilnehmer diese vorsichtige Grundhaltung. Sie weigerten sich zunehmend, riskante Befehle blind auszuführen. Dadurch sank die Erfolgsquote der simulierten Einbrüche spürbar. Entsprechende Beobachtungen liefern wichtige Erkenntnisse, um zukünftige Multi-Agenten-Plattformen von Beginn an widerstandsfähiger zu gestalten.

![Microsoft Studie 5](https://www.all-ai.de/images/2-news/5-26/microsoft-ki-agenten-netz-5.webp)

###### Quelle: Microsoft

###### Anzeige