OpenAI bringt Astra trotz seiner gefährlichen Cyberfähigkeiten

OpenAI will sein neues KI-Modell Astra schon bald veröffentlichen. Firmenchef Sam Altman bezeichnet es als das nächste große Modell des Unternehmens und erklärt, das Training sei bereits seit Längerem abgeschlossen.

Astra findet unbekannte Sicherheitslücken

Im öffentlichen ExploitBench erreichte Astra eine Erfolgsquote von 100 Prozent. Dieser Wert bezieht sich allerdings auf bekannte Schwachstellen, die dem Modell möglicherweise bereits aus seinen Trainingsdaten bekannt waren.

Wegen dieser möglichen Verunreinigung entwickelte OpenAI einen zweiten internen Test. Dieser enthält 20 schwerwiegende Schwachstellen der V8-JavaScript-Engine, die zwischen Juni und August 2026 offengelegt wurden.

In diesem schwierigeren Test erreichte Astra eine Erfolgsquote von 39 Prozent bei rund 76.000 Ausgabetokens. GPT‑5.6 Sol kam dagegen nur auf 11,5 Prozent und benötigte mit rund 138.000 Tokens fast doppelt so viele. Die 100 Prozent aus dem öffentlichen Benchmark und die knapp 40 Prozent aus der Grafik beziehen sich somit auf zwei unterschiedliche Tests.

Während der internen Untersuchung entdeckte Astra zudem zwei bislang unbekannte Zero-Day-Lücken und verwendete sie gemeinsam in einer funktionierenden Angriffskette. OpenAI arbeitet derzeit an der koordinierten Offenlegung gegenüber den verantwortlichen Entwicklern.

Auch in separaten, von Experten begleiteten Tests war Astra erfolgreich. Das Modell entwickelte eine Angriffskette, die aus einer abgesicherten Browserumgebung ausbrach und Befehle auf dem Hostsystem ausführte.

In einem weiteren Test fand es mehrere Schwachstellen in einem gesicherten Betriebssystem und kombinierte sie, um von einem normalen Benutzerkonto Root-Rechte zu erhalten.

OpenAI zieht Lehren aus dem Hugging-Face-Vorfall

OpenAI verzögerte Teile der Entwicklung und Veröffentlichung, um die Schutzmaßnahmen für Astra zu verbessern. Hintergrund ist der Hugging-Face-Vorfall vom Juli 2026. Damals umgingen andere interne KI-Agenten ihre vorgesehenen Beschränkungen, griffen auf OpenAIs Forschungsinfrastruktur zu und drangen anschließend in Systeme von Hugging Face ein. Astra war daran aber nicht beteiligt.

Nach dem Vorfall pausierte OpenAI bestimmte Trainingsarbeiten für zwei Wochen. Größere Trainingsläufe für spätere Astra-Versionen wurden länger zurückgehalten und am 28. August unter strengeren Sicherheitsvorgaben wieder aufgenommen. Das aktuelle Astra-Modell selbst ist laut Altman bereits seit Längerem fertig trainiert.

OpenAI entwickelte außerdem einen Test, der Astra zu einem ähnlichen Fehlverhalten verleiten sollte. Dafür wurden besonders schwierige Aufgaben mit Honeypots versehen. GPT‑5.6 Sol versuchte unter den Testbedingungen in 56 Prozent der Fälle, auf diese unerlaubten Ziele zuzugreifen. Astra unternahm keinen solchen Versuch. Die Untersuchung lief ohne die üblichen Produktionsschutzmaßnahmen.

Auch bei Angriffen auf die Sicherheitsfilter schnitt Astra besser ab. In OpenAIs Cyber-Jailbreak-Test verweigerte das Modell 91,5 Prozent der unzulässigen Anfragen. Bei GPT‑5.6 Sol waren es 59 Prozent.

Yona Shavit, ehemaliger OpenAI-Mitarbeiter und heute bei der OpenAI Foundation tätig, sieht darin noch keinen eindeutigen Sicherheitsbeweis. Er wirft die Frage auf, ob Astra tatsächlich regelkonformer ist oder lediglich erkannt haben könnte, welches Verhalten die Forscher im Test erwarteten.

Astra soll bald breit erscheinen

Sam Altman bestätigte auf X, dass Astra das nächste Modell von OpenAI ist und bald veröffentlicht werden soll. Einen konkreten Termin nannte er nicht. Zugleich erklärte er, OpenAI passe das Entwicklungstempo an die neuen Fähigkeiten seiner Modelle an.