McKinsey wurde von einem KI-Agenten gehackt
Sicherheitsforscher testeten ein neues Angriffsmuster gegen die Plattform Lilli. Die erschreckende Geschwindigkeit des Zugriffs überrascht selbst Experten.
Ein autonomer KI-Agent hat die interne KI-Plattform "Lilli" der Unternehmensberatung McKinsey erfolgreich gehackt. Innerhalb von nur zwei Stunden verschaffte sich das von der Sicherheitsfirma Codewall entwickelte Programm eigenständig Vollzugriff auf Millionen von Chatnachrichten und internen Dokumenten.
McKinsey wurde kürzlich von einem Sicherheitsforscher auf eine Schwachstelle im Zusammenhang mit unserem internen KI-Tool Lilli aufmerksam gemacht. Wir haben die Schwachstelle umgehend identifiziert und innerhalb weniger Stunden behoben. Unsere Untersuchung, unterstützt von einem führenden externen Forensikunternehmen, ergab keine Hinweise darauf, dass Klientendaten oder vertrauliche Klienteninformationen von diesem Forscher oder einer anderen unbefugten externen Partei eingesehen wurden. Die Cybersicherheitssysteme von McKinsey sind robust, und es gibt keine höhere Priorität für uns als den Schutz der Klientendaten und Informationen, die uns anvertraut wurden.
Schwachstellen im Berater-System
McKinsey nutzt die hauseigene Plattform Lilli im Arbeitsalltag, um den Mitarbeitern bei der Recherche und Datenanalyse zu helfen. Die Software bereitet dabei das firmeneigene Wissen für die Berater auf. Die Sicherheitsforscher von Codewall setzten ihren KI-Agenten nun gezielt auf dieses System an, um die Abwehrmechanismen auf die Probe zu stellen.
Dabei wendete das Programm keine simplen, vorgefertigten Skripte an. Der Agent ging analytisch vor.
Anzeige
Ein klassischer Cyberangriff erfordert meist viel menschliche Vorarbeit und ständige manuelle Anpassungen bei der Ausführung. KI-Agenten im Bereich der IT-Sicherheit agieren völlig anders, da sie über Fähigkeiten zum eigenständigen Reasoning verfügen. Sie interpretieren die Fehlermeldungen der anvisierten Server in Echtzeit und werten diese logisch aus.
Dadurch passen sie ihre Angriffsstrategie direkt an die neuen Gegebenheiten an. Es entsteht eine sehr hohe Angriffsgeschwindigkeit bei der Suche nach Schwachstellen.
Im Fall von Lilli entdeckte der KI-Agent fehlerhafte Zugangskontrollen in der API der Plattform. Solche Schnittstellen regeln normalerweise sehr streng, wer welche Datenpakete abrufen darf. Durch das schnelle, automatisierte Kombinieren mehrerer kleiner Authentifizierungsfehler verschaffte sich das Programm jedoch unbemerkt die höchsten administrativen Rechte.
Quelle: https://codewall.ai/blog/how-we-hacked-mckinseys-ai-platform
Umfangreicher Zugriff auf interne Daten
Nachdem die äußeren Sicherheitsvorkehrungen gefallen waren, stand das interne Netzwerk weit offen. Der KI-Agent von Codewall erlangte einen größeren Zugriff auf die tieferen Datenbanken der Beratungsfirma.
Er könnte dadurch theoretisch Millionen von internen Chatnachrichten und Dokumenten frei auslesen. Solche Datenbestände sind für Unternehmensberatungen besonders kritisch. Sie enthalten fast immer vertrauliche Details von laufenden Kundenprojekten, finanzielle Einschätzungen oder interne Strategiepapiere. Ein Abfluss dieser Informationen stellt ein hohes Sicherheitsrisiko für die betroffenen Klienten dar. Laut McKinsey soll es in diesem Fall aber nicht zu einem Abfluss von Klientendaten oder vertraulichen Klienteninformationen gekommen sein.
Der erfolgreiche Testlauf verdeutlicht, wie sich die Anforderungen an die moderne Cybersicherheit gerade verändern. Wenn Angreifer autonome Agenten nutzen, sinkt die verfügbare Reaktionszeit für die Verteidiger auf ein absolutes Minimum. Unternehmen stehen nun vor der Aufgabe, ihre eigenen Abwehrsysteme an diese neue, automatisierte Geschwindigkeit anzupassen, um solche Angriffe künftig rechtzeitig zu blockieren.