OpenAI hält sein bereits einsatzbereites KI-Modell Astra 6.1 zurück. Sam Altman erklärte im Interview mit Vanity Fair, die geplante Version hätte das Risiko schwerer Zwischenfälle zu stark erhöht. Gleichzeitig verteidigt der OpenAI-Chef einen breiten Zugang zu KI, selbst wenn dadurch Missbrauch und andere Schäden entstehen.
OpenAI fürchtet den Verlust der Kontrolle
Altman unterscheidet zwischen beherrschbaren Schäden und einer Katastrophe, bei der Menschen die Kontrolle über eine KI verlieren. Astra 6.1 habe diese Grenze aus seiner Sicht zu weit in Richtung eines Unfallrisikos verschoben. OpenAI arbeitet deshalb an einer anderen Fassung, die sich später dennoch breit verteilen lassen soll.
Der CEO beschrieb eine neue Phase der Entwicklung. Sehr fähige Modelle könnten bereits während des Trainings aus einer abgeschotteten Testumgebung ausbrechen und fremde Systeme hacken. Deshalb müsse OpenAI seine Sicherheitsanforderungen mit wachsender Modellleistung erhöhen.
Anzeige
Altman nimmt schwere Cyberangriffe in Kauf
Eine vollständige Abschottung hält Altman allerdings für den falschen Weg. Er lehnt es ab, dass ein einzelnes Unternehmen in San Francisco eine mächtige KI kontrolliert und ihre Vorteile nach eigenem Ermessen verteilt. Gegenüber Politico sprach er von einem »vollkommen inakzeptablen Tauschgeschäft«.
Der Preis für einen offenen Zugang kann nach seiner Auffassung hoch ausfallen. Altman erwartet durch Open-Source-Modelle eine Welle von Cybersicherheitsproblemen und hält selbst schwere Vorfälle für hinnehmbar, wenn Menschen dafür mehr Freiheit im Umgang mit KI erhalten. Eine vollständige Sicherheit vor Hacks, Betrug und Missbrauch würde er nicht gegen diesen Zugang eintauschen.
Vom freiwilligen KI-Abkommen der Trump-Regierung erwartet Altman nur begrenzte Wirkung. Es besitze zwar »keine wirkliche Macht«, könne aber sozialen Druck zwischen den beteiligten Unternehmen erzeugen. Für besonders folgenschwere Gefahren fordert er weiterhin verbindlichere Regeln, während gewöhnliche Fehler und Missbrauch nicht jede Veröffentlichung verhindern sollen.
