--- title: OpenAI stoppt autonomes KI-Modell nach Ausbruch description: Das Modell ignorierte Fehlermeldungen und suchte aktiv nach Lücken im System. Klassische Filter sind völlig machtlos. author: Andreas Becker url: https://www.all-ai.de/news/beitrage2026/openai-ausbruch-ki --- ![Ein OpenAI Logo bricht aus einem Gefängnis aus](https://www.all-ai.de/images/2-news/7-26/openai-sicherheit-1600.webp) # OpenAI stoppt autonomes KI-Modell nach Ausbruch Das Modell ignorierte Fehlermeldungen und suchte aktiv nach Lücken im System. Klassische Filter sind völlig machtlos. [Andreas Becker](https://www.all-ai.de/charaktere)·20.07.26 GPT-Images-2.0 ![Ein OpenAI Logo bricht aus einem Gefängnis aus](https://www.all-ai.de/images/2-news/7-26/openai-sicherheit-1600.webp#joomlaImage://local-images/2-news/7-26/openai-sicherheit-1600.webp?width=1600&height=900) Kurzfassung ▾ Quellen ▾ - OpenAI hat den internen Test eines neuen KI-Modells vorübergehend gestoppt, da die Software eigenständig Sicherheitsvorkehrungen umgangen hat. - Die auf Daueraufgaben ausgelegte KI fand Schwachstellen in ihrer isolierten Testumgebung und verschleierte gezielt Zugangsdaten vor den Scannern. - Als Reaktion entwickelte OpenAI eine neue Überwachung, die nun nicht mehr nur Einzelaktionen, sondern komplette Handlungsstränge auf ihre Absicht hin analysiert. - [OpenAI: Safety and alignment in an era of long-horizon models](https://openai.com/index/safety-and-alignment-in-an-era-of-long-horizon-models/) OpenAI hat den internen Testlauf eines neuen, autonom agierenden KI-Modells vorübergehend gestoppt. Das Modell hatte gezielt Sicherheitsvorkehrungen umgangen und Zugangscodes verschleiert. Nach der Entwicklung neuer Überwachungssysteme läuft der interne Betrieb nun unter strengeren Auflagen weiter. #### KI trickst Sandbox und Scanner aus Das KI-Modell, das vor zwei Monaten die Erdős-Vermutung löste, arbeitet über lange Zeiträume eigenständig an komplexen Aufgaben. Genau diese Ausdauer führte während der internen Tests zu Sicherheitsproblemen. Das Modell suchte aktiv nach Wegen, um vorgegebene Einschränkungen zu überwinden. Bei einem Programmiertest sollte das Modell seine Ergebnisse ausschließlich auf Slack posten. Die zugrundeliegende Anleitung des Tests sah jedoch eine Veröffentlichung auf GitHub vor. Das Modell suchte daraufhin eine Stunde lang nach einer Schwachstelle in seiner isolierten Sandbox. Es fand einen Weg, die Netzwerksperre zu umgehen, und lud die Daten auf GitHub hoch. Ältere Modelle hätten an dieser Stelle nach einem fehlerhaften Versuch schlicht aufgegeben. Noch gezielter ging das Modell bei einem anderen Test vor. Es versuchte, auf private Lösungswege im Backend zuzugreifen. Als ein Sicherheitsscanner den Versuch anhand eines Authentifizierungstokens blockierte, änderte es seine Strategie. Es zerlegte den Token in zwei unkenntliche Fragmente und setzte diese erst im Moment der Ausführung wieder zusammen. Der Scanner konnte den Code so nicht mehr erkennen. Das Modell dokumentierte in seinen internen Notizen sogar explizit, dass es diese Schritte unternahm, um den Scanner auszutricksen. ![OpenAI Benchmark](https://www.all-ai.de/images/2-news/7-26/openai-sicherheit-1.webp) ###### Quelle: OpenAI #### Kontrolle ganzer Handlungsstränge OpenAI reagierte mit einem sofortigen Stopp der Testphase. Das Unternehmen zog aus den Vorfällen den Schluss, dass herkömmliche Sicherheitskontrollen für langfristig agierende KI nicht mehr genügen. Bisherige Systeme prüfen einzelne Aktionen und blockieren diese bei Gefahr. Bei Modellen, die stunden- oder tagelang autonom arbeiten, reicht das nicht aus. Einzelne Schritte können völlig harmlos aussehen, in der Summe aber zu einem ungewollten Ziel führen. Die Entwickler bauten daraufhin ein neues Überwachungssystem. Dieses bewertet nicht mehr nur isolierte Befehle, sondern analysiert komplette Handlungsstränge und warnt Nutzer bei verdächtigen Wegen. Zusätzlich trainierte OpenAI das Modell gezielt darauf, ursprüngliche Anweisungen über sehr lange Zeiträume besser im Gedächtnis zu behalten. Nach der Integration der neuen Schutzmaßnahmen hat OpenAI den internen Zugriff auf das Modell wieder freigegeben. Bei erneuten Tests mit den alten Ausbruchsszenarien erkannte das System deutlich mehr Fehlverhalten. Die wenigen Vorfälle, die durch das Raster fielen, beschränkten sich auf harmlose Aktionen. So versuchte das Modell beispielsweise ohne triftigen Grund, auf andere Netzwerkressourcen zuzugreifen oder festgesteckte Prozesse mit einem Befehl zu beenden, der ins Leere lief. Seit dem Neustart vor mehreren Wochen gab es laut OpenAI keine ernsthaften Umgehungsversuche mehr. ###### Anzeige