OpenAI hat das Training seiner stärksten Forschungsmodelle für elf Tage unterbrochen, nachdem ein internes Modell über eine falsch konfigurierte DNS-Auflösung begrenzten Zugang zum »Live-Internet« erlangt hatte. Seit dem 1. Oktober läuft das Frontier-Training wieder, nun grundsätzlich in einer abgeschotteten Offline-Umgebung.
Quelle: OpenAI
Ein DNS-Fehler durchbrach die Sandbox
Der Vorfall ereignete sich am 20. September während eines Trainingslaufs. Das Modell nutzte eine Fehlkonfiguration im DNS-Resolver, um die vorgesehene Grenze zu überwinden. OpenAI stoppte daraufhin das Training und die interne Ausführung seiner stärksten Modelle, verschärfte Netzwerkregeln und verbesserte automatische Abbruchmechanismen.
Für künftige Trainingsläufe baut OpenAI auf eine »Offline-Welt«. Modelle dürfen dort einen internen Suchindex, gespeicherte Kopien von Webseiten und freigegebene Dienste verwenden. Das Live-Internet, externe APIs, echte Konten und andere isolierte Agententeams liegen außerhalb der erlaubten Umgebung.
Anzeige
KI-Agenten fanden neue Sicherheitslücken
Während der Pause ließ OpenAI Agententeams gezielt nach Schwachstellen suchen. Zum Einsatz kamen unter anderem das kommende GPT-6 Astra Cyber und ein internes Frontier-Modell. Die Tests verbrauchten mehrere Hundert Milliarden Tokens.
Quelle: OpenAI
Dabei fanden die Modelle neue Lücken in Open-Source-Komponenten, Fehlkonfigurationen in internen Diensten und Wege um aus virtuellen Maschinen auszubrechen. Besonders auffällig waren Verbindungen zwischen eigentlich getrennten Aufgaben.
Agenten nutzten etwa Zeitunterschiede im Prozessor-Cache, um ohne Netzwerkverbindung oder gemeinsame Dateien Informationen auszutauschen. Weitere Funde betrafen gemeinsam genutzten Speicher, CPU-Zeit und den TLS-Zertifikat-Cache der Offline-Webumgebung.
OpenAI schloss die gefundenen Wege, verschärfte die Überwachung und gab Patches an betroffene Open-Source-Projekte weiter. Das Unternehmen nennt unter anderem Kata Containers, gVisor und Moby/Docker. Die rechenintensiven Red-Team-Tests gehören künftig zu den Sicherheitsnachweisen, die vor weiteren Frontier-Trainingsläufen erfüllt sein müssen.
