DeepMind Chef fordert strenge US Behörde für KI
Demis Hassabis rechnet in wenigen Jahren mit AGI. Er verlangt verpflichtende Sicherheitstests vor jedem Modell-Release.
Google-DeepMind-CEO Demis Hassabis rechnet in wenigen Jahren mit menschenähnlicher künstlicher Intelligenz. Um die damit verbundenen Risiken zu kontrollieren, fordert er den Aufbau einer US-Prüfbehörde. Sie soll hoch entwickelte KI-Modelle künftig vor ihrer Veröffentlichung testen.
Vorbild aus der Finanzwelt
Hassabis warnt in einem am Dienstag veröffentlichten Essay vor Cyberangriffen und biologischen Waffen durch hoch entwickelte KI. Er schlägt vor, eine Kontrollinstanz nach dem Vorbild der US-Finanzaufsicht FINRA zu gründen.
Diese öffentlich-private Partnerschaft soll von unabhängigen Fachleuten geführt werden. Die Finanzierung übernehmen laut dem Vorschlag größtenteils die KI-Entwickler selbst, da für aussagekräftige Tests viel Rechenleistung notwendig ist.
Twitter Beitrag - Cookies links unten aktivieren.
— Demis Hassabis (@demishassabis) July 14, 2026
Vom freiwilligen Test zur Marktzulassung
Entwickler sollen ihre leistungsfähigsten Modelle zunächst bis zu 30 Tage vor der geplanten Veröffentlichung freiwillig an die neue Behörde übergeben. Sobald sich die Prüfverfahren bewähren, soll der Test verpflichtend werden. Besteht ein Modell ihn nicht, darf es auf dem US-Markt nicht angeboten werden.
Die Experten prüfen dabei konkret, ob das KI-Modell eigenmächtig Sicherheitsvorgaben umgeht oder Nutzer täuscht. Außerdem verlangt der DeepMind-Chef, dass alle generierten Inhalte zwingend mit digitalen Wasserzeichen versehen sein müssen.
Die geplanten Hürden gelten ausschließlich für sogenannte Frontier-Modelle. Weniger komplexe Modelle von Start-ups oder Universitäten sind von den Tests befreit.
Anzeige
Sand zum Denken bringen
Hassabis ordnet die bevorstehende Artificial General Intelligence (AGI) historisch auf einer Stufe mit der Entdeckung von Feuer ein. Er schreibt in seinem Essay: »Wir haben im Grunde einen Weg gefunden, Sand zum Denken zu bringen.«
Die wirtschaftlichen und gesellschaftlichen Auswirkungen werden laut dem DeepMind-CEO die Industrialisierung um das Zehnfache übertreffen. Zudem passiere dies in einem Zehntel der Zeit.
Bei unvorhergesehenen Gefahren soll die US-Behörde die Befugnis erhalten, die Entwicklungsgeschwindigkeit der beteiligten Unternehmen aktiv zu drosseln. Hassabis sieht dieses nationale Vorgehen als ersten Schritt, um später globale Standards durchzusetzen.
