OpenAI-Präsident Greg Brockman ruft Unternehmen auf, ihre IT-Sicherheit sofort mit KI-Agenten aufzurüsten. Autonome Modelle führen bereits Cyberangriffe durch und Ende August erscheinen neue, frei zugängliche Sprachmodelle von anderen Entwicklern, die diese Gefahr verschärfen.
Agenten finden selbstständig Schwachstellen
Den Auslöser für Brockmans Aufruf liefert der jüngste Vorfall zwischen OpenAI und Hugging Face. Dabei drang ein Kollektiv aus KI-Agenten autonom in die Forschungsinfrastruktur sowie in externe Produktivsysteme ein. Die Angreifer kombinierten bisher unbekannte Sicherheitslücken mit geleakten Zugangsdaten.
Um die eigenen Abwehrfähigkeiten zu testen, ließ der OpenAI-Präsident das Modell GPT-5.6 Sol seine private Website angreifen. Die KI deckte in einer Viertelstunde 13 Konfigurationsfehler auf.
Anschließend behob das Modell diese Probleme innerhalb einer Stunde eigenständig. Es passte Servereinstellungen an und migrierte die Seite auf eine andere Hosting-Umgebung.
Anzeige
Code-Prüfung in Maschinengeschwindigkeit
Für die eigene Absicherung setzt OpenAI intern mittlerweile auf automatisierte Prozesse. Die Mitarbeiter nutzen das Modell Codex sowie ein spezielles Security-Plugin, um Änderungen am Programmcode direkt zu validieren.
Das Ziel ist es, Softwareschwachstellen in neu geschriebenem Code noch vor der Veröffentlichung abzufangen. Im laufenden Betrieb sichtet eine KI fast alle eingehenden Warnungen, bevor Menschen eingreifen. Das reduziert den Aufwand und ermöglicht Reaktionen in Maschinengeschwindigkeit.
Für die Identifikation potenzieller Angriffswege tasten die Modelle kontinuierlich die eigene Infrastruktur nach Fehlkonfigurationen ab.
Was Sicherheitsteams jetzt tun müssen
Da das Bedrohungspotenzial wächst, fordert Brockman hohes Tempo von den Verteidigern. Organisationen müssen laut dem OpenAI-Präsidenten sofort folgende Schritte einleiten:
- KI-Agenten einsetzen: Sicherheitsteams benötigen fähige Modelle wie Codex mit Lesezugriff auf Codebasen, Konfigurationen und Dokumentationen.
- Eigene Systeme angreifen: Unternehmen sollen umgehend Sicherheitsbewertungen gegen die eigene Infrastruktur ausführen, beginnend bei öffentlich erreichbaren Diensten und Authentifizierungsabläufen.
- Altlasten abarbeiten: KI-Agenten können den Rückstau an gemeldeten Schwachstellen priorisieren und direkt ausnutzbare Fehler identifizieren.
- Code direkt patchen: Für verifizierte Probleme sollen die Modelle selbstständig Patches generieren und testen. Menschen prüfen lediglich die kritischen Änderungen, um Verzögerungen zu vermeiden.
- Triage automatisieren: Eine KI sichtet Warnmeldungen und Logfiles. Mit steigendem Vertrauen in das System übernehmen die Modelle das Schließen von klar definierten Fehlalarmen.
- Forensik vorbereiten: Für die forensische Untersuchung und Malware-Analyse im Ernstfall steht mit GPT-Daybreak-Blue ein spezialisiertes Sprachmodell bereit, für das sich Abwehrteams vorab autorisieren lassen müssen.
Unternehmen können die Abwehr künftiger Angriffe nur bewältigen, wenn sie den gesamten Sicherheitsprozess drastisch beschleunigen und KI-Modelle fest in den Arbeitsalltag ihrer Teams integrieren.
