---
title: DeepMind Chef fordert strenge US Behörde für KI
description: Demis Hassabis rechnet in wenigen Jahren mit AGI. Er verlangt verpflichtende Sicherheitstests vor jedem Modell-Release.
author: Andreas Becker
url: https://www.all-ai.de/news/news26/hassabis-ki-zukunft
---

![Ein Sandkopf mit Intelligenz](https://www.all-ai.de/images/2-news/7-26/hassabis-ki-zukunft-1600.webp)

# DeepMind Chef fordert strenge US Behörde für KI

Demis Hassabis rechnet in wenigen Jahren mit AGI. Er verlangt verpflichtende Sicherheitstests vor jedem Modell-Release.

[Andreas Becker](https://www.all-ai.de/charaktere)·14.07.26

GPT-Images-2.0

![Ein Sandkopf mit Intelligenz](https://www.all-ai.de/images/2-news/7-26/hassabis-ki-zukunft-1600.webp#joomlaImage://local-images/2-news/7-26/hassabis-ki-zukunft-1600.webp?width=1600&height=900)

Kurzfassung
 ▾

Quellen
 ▾

- DeepMind-Chef Demis Hassabis fordert den Aufbau einer US-Prüfbehörde für hochentwickelte KI-Modelle.
- Diese Instanz soll mächtige Software künftig vor der Veröffentlichung zwingend auf extreme Risiken testen.
- Drohen unvorhergesehene Gefahren, soll die Behörde die Entwicklungsgeschwindigkeit der Konzerne aktiv drosseln können.
- Weniger komplexe KI-Projekte von Start-ups und Universitäten sind von den strengen Vorgaben jedoch ausgenommen.

- [X - Demis Hassabis: A Framework for Frontier AI and the Dawning of a New Age](https://x.com/demishassabis/status/2076957440109625718)

Google-DeepMind-CEO Demis Hassabis rechnet in wenigen Jahren mit menschenähnlicher künstlicher Intelligenz. Um die damit verbundenen Risiken zu kontrollieren, fordert er den Aufbau einer US-Prüfbehörde. Sie soll hoch entwickelte KI-Modelle künftig vor ihrer Veröffentlichung testen.

#### Vorbild aus der Finanzwelt

Hassabis warnt in einem am Dienstag veröffentlichten Essay vor Cyberangriffen und biologischen Waffen durch hoch entwickelte KI. Er schlägt vor, eine Kontrollinstanz nach dem Vorbild der US-Finanzaufsicht FINRA zu gründen.

Diese öffentlich-private Partnerschaft soll von unabhängigen Fachleuten geführt werden. Die Finanzierung übernehmen laut dem Vorschlag größtenteils die KI-Entwickler selbst, da für aussagekräftige Tests viel Rechenleistung notwendig ist.

Twitter Beitrag - Cookies links unten aktivieren.

> [https://t.co/PTeDiv1b6L](https://t.co/PTeDiv1b6L)
>
> — Demis Hassabis (@demishassabis) [July 14, 2026](https://x.com/demishassabis/status/2076957440109625718?ref_src=twsrc%5Etfw)

#### Vom freiwilligen Test zur Marktzulassung

Entwickler sollen ihre leistungsfähigsten Modelle zunächst bis zu 30 Tage vor der geplanten Veröffentlichung freiwillig an die neue Behörde übergeben. Sobald sich die Prüfverfahren bewähren, soll der Test verpflichtend werden. Besteht ein Modell ihn nicht, darf es auf dem US-Markt nicht angeboten werden.

Die Experten prüfen dabei konkret, ob das KI-Modell eigenmächtig Sicherheitsvorgaben umgeht oder Nutzer täuscht. Außerdem verlangt der DeepMind-Chef, dass alle generierten Inhalte zwingend mit digitalen Wasserzeichen versehen sein müssen.

Die geplanten Hürden gelten ausschließlich für sogenannte Frontier-Modelle. Weniger komplexe Modelle von Start-ups oder Universitäten sind von den Tests befreit.

###### Anzeige

#### Sand zum Denken bringen

Hassabis ordnet die bevorstehende Artificial General Intelligence (AGI) historisch auf einer Stufe mit der Entdeckung von Feuer ein. Er schreibt in seinem Essay: »Wir haben im Grunde einen Weg gefunden, Sand zum Denken zu bringen.«

Die wirtschaftlichen und gesellschaftlichen Auswirkungen werden laut dem DeepMind-CEO die Industrialisierung um das Zehnfache übertreffen. Zudem passiere dies in einem Zehntel der Zeit.

Bei unvorhergesehenen Gefahren soll die US-Behörde die Befugnis erhalten, die Entwicklungsgeschwindigkeit der beteiligten Unternehmen aktiv zu drosseln. Hassabis sieht dieses nationale Vorgehen als ersten Schritt, um später globale Standards durchzusetzen.