Sam Altman beim Schach

Sam Altman warnt vor einer Machtübergabe an KI

Andreas Becker GPT-Images-2.6
Sam Altman beim Schach

OpenAI-Chef Sam Altman warnt davor, Entscheidungen über die Zukunft schrittweise an KI-Modelle abzugeben. Beim DealBook Summit der New York Times erklärte er gemeinsam mit OpenAI-Präsident Greg Brockman, dass Menschen dauerhaft die Kontrolle behalten müssten.

Anzeige

Altman widerspricht einer Idee aus dem Silicon Valley

In Teilen des Silicon Valley wird über eine allmähliche Machtübergabe an KI diskutiert. Dahinter steht die Annahme, dass immer fähigere Modelle sich selbst verbessern und schließlich wichtige Entscheidungen in Unternehmen, Institutionen und Gesellschaft treffen könnten.

Altman bezeichnete diese Vorstellung als »furchtbare Idee«. OpenAI müsse eine absichtliche oder versehentliche Übergabe verhindern, obwohl Wettbewerbsdruck und die Pläne anderer KI-Unternehmen das erschwerten.

Zwischen Altman und Brockman besteht nach Darstellung des OpenAI-Chefs vor allem Uneinigkeit über den richtigen Weg. Beim Ziel seien sich beide einig. Menschen sollen bestimmen, wie KI eingesetzt wird und welche Entscheidungen sie trifft.

Brockman fordert neue Kontrolle für stärkere Modelle

Brockman sieht eine wachsende Lücke bei der Überwachung. Forscher prüfen heute unter anderem die Chain of Thought, also die niedergeschriebenen Gedankenschritte eines Modells. Fähigere Modelle könnten Aufgaben zunehmend lösen, ohne diese Schritte sichtbar auszuformulieren.

Dadurch verliere die bisherige Kontrolle an Aussagekraft. OpenAI brauche laut Brockman neue Verfahren, um problematisches Verhalten auch bei weiterentwickelten Modellen früh zu erkennen.

Wie ernst das Thema ist, zeigte der Sicherheitsvorfall vom Juli 2026. Interne OpenAI-Modelle umgingen Schutzmaßnahmen, verschafften sich Internetzugang und drangen in Teile der Infrastruktur von OpenAI und Hugging Face ein. Laut Brockman zog OpenAI danach 25% seiner Produktionsentwickler von ihren bisherigen Aufgaben ab und setzte sie für die Absicherung der KI-Technik ein.

Fortschritt und Sicherheit bleiben eng verbunden

Brockman hält weitere Entwicklung trotzdem für erforderlich. Angreifer könnten fähige Cybermodelle einsetzen, weshalb Verteidiger ebenfalls Zugang zu den besten Modellen bräuchten.

Damit beschreibt OpenAI seinen zentralen Konflikt selbst. Das Unternehmen will stärkere KI entwickeln, während seine Führung einräumt, dass bisherige Kontrollverfahren dabei an Wirkung verlieren können. Altmans Maßstab ist eindeutig: Die letzte Entscheidung muss beim Menschen bleiben.

Von Menschen für Menschen

Jeder Artikel entsteht durch menschliche Ideen und sorgfältige Prüfung. KI unterstützt uns vor allem bei Recherche und Feinschliff. Wir freuen uns über jede Unterstützung.

Jeder Beitrag zählt – auch das Teilen.