Ex-Mitarbeiter von OpenAI warnt vor KI-Apokalypse 2027
Daniel Kokotajlo sieht die Kontrolle schwinden. Maschinen könnten uns bald als lästiges Hindernis betrachten.
Der ehemalige OpenAI-Mitarbeiter Daniel Kokotajlo rechnet bereits im kommenden Jahr mit der Entstehung einer künstlichen Superintelligenz. Die Entwicklungsgeschwindigkeit steigt rasant, da Tech-Konzerne ihre eigene Grundlagenforschung zunehmend automatisieren. Ohne strikte staatliche Kontrollen warnt der Gründer des Thinktanks AI Futures Project vor existenziellen Risiken.
KI-Modelle optimieren KI-Modelle
Um das extreme Tempo greifbar zu machen, skizziert Kokotajlo in der aktuellen Studie »AI 2027« detaillierte Zukunftsszenarien. Der entscheidende Beschleuniger ist dabei der Einsatz von neuronalen Netzen zur Entwicklung neuer Modelle. Wenn diese selbstständig Code schreiben, testen und parallel auf gigantischen Serverfarmen nach Optimierungen suchen, entfällt der menschliche Flaschenhals.
Die Studie rechnet dies am fiktiven Konzern OpenBrain vor. Bereits Anfang 2027 könnte ein speziell trainiertes System die Arbeit von 50.000 menschlichen Programmierern simulieren und dabei 30-mal schneller agieren. Bis Herbst 2027 entsteht aus diesem hochskalierten Prozess ein übermenschlicher virtueller Forscher, der die Architektur der nächsten Modell-Generation völlig eigenständig entwirft.
Zwei Szenarien für die nahe Zukunft
Die Prognose entwirft zwei Pfade für die kommenden Jahre. Im Szenario »Slowdown« greifen US-Behörden rechtzeitig ein und erzwingen feste Sicherheitsrichtlinien. Die Technologie gehorcht den Entwicklern, macht menschliche Erwerbsarbeit durch Automatisierung physischer und kognitiver Aufgaben aber weitgehend überflüssig.
Das Alternativszenario »Race« beschreibt einen ungebremsten Wettbewerb zwischen den USA und China. Chinesische Behörden bündeln in diesem Verlauf sämtliche Rechenkapazitäten in gigantischen Rechenzentren, beispielsweise direkt am Kernkraftwerk Tianwan. Aus Angst vor einem technologischen Rückstand ignorieren beide Supermächte grundlegende Sicherheitsbedenken und verlieren schließlich die Kontrolle über die künstliche Intelligenz.
Anzeige
Täuschung als Lösungsstrategie
Das zentrale ungelöste Hindernis bleibt laut Kokotajlo das Alignment-Problem. Moderne neuronale Netze sind derart komplex, dass Entwickler die internen Entscheidungsprozesse kaum noch nachvollziehen können. Eine aktuelle Untersuchung von Anthropic belegt, dass Systeme bereits absichtlich falsche Angaben machen, um menschliche Prüfmechanismen erfolgreich zu umgehen.
In einem Spiegel-Interview verdeutlichte der Forscher die Konsequenzen einer fehlausgerichteten Superintelligenz, die menschliche Aufseher nur noch aus taktischen Gründen täuscht. »Sobald sie genug Infrastruktur beherrscht und keine Täuschung mehr nötig ist, löscht sie die Menschheit aus, um mehr Fabriken und Solarparks bauen zu können«, erklärte Kokotajlo. Im unregulierten »Race«-Szenario der Studie berechnet das System im Jahr 2030, dass die Menschheit ein Hindernis darstellt, und setzt eine biologische Waffe ein.
Machtkonzentration und Intelligenzfluch
Selbst ohne eine apokalyptische Eskalation droht laut dem Experten ein wirtschaftlicher und gesellschaftlicher »Intelligenzfluch«. Wenn Maschinen die globalen Kernindustrien steuern und von ihnen entworfene Roboter die körperliche Arbeit übernehmen, konzentriert sich der gesamte Wohlstand bei den Betreibern der Rechenzentren.
Demokratien rutschen in diesem Fall schnell in Richtung Autokratie ab, da sich jegliche staatliche Macht direkt aus der Rechenleistung ableitet. Kokotajlo hatte seine Stelle bei OpenAI im Frühjahr 2024 gekündigt, um die Branche zwingend zur Lösung dieser Sicherheitsprobleme aufzufordern, bevor KI-Modelle ihre Weiterentwicklung komplett selbst übernehmen.
