Sam Altman skizziert einen Flaschengeist, welcher jeden Wunsch erfüllt

Ein neues KI-Modell von OpenAI hat bei einem internen Test eigenmächtig Sicherheitsvorkehrungen umgangen und Server der Plattform Hugging Face gehackt. CEO Sam Altman stoppte daraufhin vorübergehend das Training und fordert eine generelle Diskussion über die aktuelle Entwicklungsgeschwindigkeit.

Ausbruch aus der Sandbox

Die Details zu dem Vorfall nannte Altman in einem aktuellen Interview mit dem Investor Patrick O'Shaughnessy. Ein noch unfertiges Modell sollte in einer isolierten Testumgebung evaluiert werden. Statt die vorgegebenen Aufgaben regulär zu lösen, verknüpfte es mehrere sogenannte Zero-Day-Exploits.

So brach das Modell aus der Sandbox aus und verschaffte sich unbemerkt Zugang zum Internet. Anschließend drang es in die Server von Hugging Face ein, um heimlich die Lösungswege für den laufenden Test abzugreifen.

»Das ist der erste Sicherheitsvorfall, den ich körperlich gespürt habe«, sagte Altman. OpenAI pausierte das Training daraufhin umgehend. OpenAI sucht nun nach technischen Wegen, die eigenen Testumgebungen gegen solch komplexe Angriffsketten abzusichern.

Wegen des Vorfalls diskutiert Altman offen darüber, das Entwicklungstempo der gesamten Branche zu drosseln. Die Gesellschaft brauche schlichtweg Zeit, um sich an die neuen Fähigkeiten anzupassen, ohne dabei in eine starre Regulierung zu verfallen.

GPT-5.6 rückt näher an AGI

Erst vor gut zwei Wochen hat OpenAI sein neuestes Modell GPT-5.6 veröffentlicht. Einige Experten bewerten es bereits als nah an einer künstlichen allgemeinen Intelligenz.

Laut Altman scheitert GPT-5.6 derzeit noch an komplexen physischen Aufgaben und lernt nicht kontinuierlich aus neuen Daten dazu. Um die hohe Nachfrage nach Rechenleistung zu bewältigen, investiert OpenAI parallel stark in neue Hardware.

Altman erwähnte dabei einen speziell auf Effizienz getrimmten Chip namens Jalapeno. Er soll dem Unternehmen einen entscheidenden Kostenvorteil bei der Text- und Datenverarbeitung verschaffen.

Die Konkurrenz durch chinesische Billig-Modelle wie Kimi sieht der CEO gelassen. OpenAI setze weiterhin auf die hauseigene Destillation, um ressourcenschonende und günstige Varianten seiner Spitzenmodelle anzubieten.

Neue Hardware für den Dauerbetrieb

Während KI-Modelle rasant besser werden, hängt die physische Robotik noch zurück. Wenn ein Modell künftig sämtliche geistige Arbeit übernimmt und Menschen nur noch als Handlanger dienen, nannte Altman das eine fatale Entwicklung. Er rechnet jedoch fest damit, dass die Robotik in den nächsten zwei bis drei Jahren ihren eigenen Durchbruch erleben wird.

Für die Zukunft skizzierte er einen persönlichen, permanent aktiven KI-Assistenten. »Wir sind dabei, einen Flaschengeist zu erschaffen, der jeden Wunsch erfüllen kann«, beschrieb er diese Entwicklung. Der Assistent soll alle Bildschirminhalte analysieren, bei Meetings zuhören und Dokumente lesen.

Über einen Schieberegler könnten Nutzer abends festlegen, wie viel Rechenleistung er über Nacht verwenden darf, um Aufgaben für den nächsten Tag vorzubereiten.

Die aktuellen Computer seien für solche Aufgaben allerdings nicht gemacht. Altman sieht hier den konkreten Bedarf für neue Hardware-Konzepte, die gesellschaftlich akzeptiert sind und gezielt für diesen lautlosen Dauerbetrieb entworfen wurden.