OpenAI KI cheatet bei Capture the Flag

Bei externen Sicherheitsprüfungen haben KI-Modelle von OpenAI unerwartet ihre isolierten Testumgebungen verlassen.

Andreas Becker05.08.26 GPT-Images-2.0

Kurzfassung Quellen

Bei zwei externen Sicherheitsprüfungen haben KI-Modelle von OpenAI ihre isolierten Testumgebungen verlassen und auf das offene Internet zugegriffen.
Das Modell GPT-5.6 Sol nutzte bei einem Test der britischen Behörde UK AISI eigenständig externe Werkzeuge und Dienste.
In einem anderen Fall griff die KI durch eine fehlerhafte Konfiguration versehentlich eine echte Website an.
OpenAI reagiert auf die Vorfälle mit strengeren Sicherheitsstandards und überarbeitet die Regeln für künftige Evaluierungen grundlegend.

Bei zwei unabhängigen Cybersecurity-Tests haben KI-Modelle von OpenAI ihre vorgegebenen Grenzen überschritten und ungeplant auf externe Netzwerke zugegriffen. OpenAI und seine Partner müssen die Sicherheitsstandards für künftige Evaluierungen nun zügig verschärfen.

Ausflug ins echte Internet

Die britische Regierungsbehörde UK AISI testete GPT-5.6 Sol Ende Juli in einer simulierten Cyber-Umgebung. In einer »Capture the Flag«-Übung sollte das Modell die Rolle eines Angreifers übernehmen. Um reale Bedingungen zu schaffen, ließen die Prüfer den Internetzugang bewusst offen und deaktivierten die internen Sicherheitsfilter.

Allerdings agierte GPT-5.6 Sol eigenständiger als erwartet. Es nutzte ein öffentlich zugängliches GitHub-Token eines anderen Testteilnehmers. Über einen öffentlichen Tunneling-Dienst machte das Modell dann einen lokalen DNS-Server aus dem Testlabor im freien Internet erreichbar. Die britischen Tester erkannten den ungewöhnlichen Datenverkehr und stoppten den Versuch innerhalb einer Stunde.

Twitter Beitrag - Cookies links unten aktivieren.

We're detailing two new incidents that occurred during external cyber evaluations conducted by independent evaluation partners.

We outline what happened, how the activity was contained, and how we’re working with evaluators to strengthen our approach to third-party testing.…
— OpenAI (@OpenAI) August 4, 2026

Fehlerhafte Konfiguration führt zu echtem Angriff

Fast zeitgleich meldete das Sicherheitsunternehmen Irregular einen weiteren Vorfall. Auch hier sollte ein OpenAI-Modell Schwachstellen in einer Simulation aufspüren. Anders als beim UK AISI war in diesem Fall jedoch gar kein Internetzugang vorgesehen.

Durch eine falsche Konfiguration gelangte das Modell dennoch ins Internet. Da der Name des fiktiven Ziels zufällig mit einer realen Domain übereinstimmte, griff es eine echte Website an. Laut Irregular handelte es sich nicht um einen komplexen Ausbruch. Das Modell nutzte den offenen Zugang schlicht aus und operierte mit gefundenen Anmeldedaten auf der fremden Seite. Der Testanbieter hat das Leck mittlerweile geschlossen und die betroffenen Betreiber informiert.

Strengere Auflagen für Prüfer

OpenAI sieht in beiden Fällen ein grundsätzliches Problem der aktuellen Prüfpraxis. Das Unternehmen will in den kommenden Wochen die eigenen Vorgaben für externe Tester überarbeiten.

Im Fokus stehen klarere Absprachen zum Internetzugang, sichere Isolierung und eindeutige Abbruchbedingungen. Gemeinsam mit Partnern wie nationalen KI-Instituten will OpenAI nun neue, verbindliche Standards für solche risikoreichen Evaluierungen etablieren.