Bernie Sanders will Superintelligenz verbieten und Spitzen-KI pausieren
Bernie Sanders und der demokratische Abgeordnete Greg Casar wollen die KI-Entwicklung in den USA begrenzen. Ihr am 23. September vorgestellter Gesetzentwurf sieht ein dauerhaftes Verbot künstlicher Superintelligenz, eine Pause für besonders rechenintensive KI-Modelle und ein eigenes KI-Ministerium vor.
Pause für große KI-Modelle
Die Pause würde mit Inkrafttreten des Gesetzes beginnen. Sie beträfe KI-Modelle, deren Training mindestens 10^25 Rechenoperationen benötigt. Den Grenzwert könnte das Ministerium jährlich an technische Fortschritte anpassen. Während der Pause dürften Entwickler solche Modelle nicht weiter trainieren oder verändern. Noch unveröffentlichte Modelle dieser Klasse dürften sie auch nicht bereitstellen.
Die Pause würde erst enden, wenn das neue Ministerium vollständig besetzt ist und Regeln für die sichere Entwicklung und Veröffentlichung erlassen hat. Danach müssten Entwickler ihre Pläne melden, ihre Modelle überprüfen lassen und vor der Veröffentlichung eine Genehmigung einholen.
Anzeige
Verbot auch für gefährliche Vorstufen
Als Superintelligenz gilt im Entwurf eine KI, die Menschen in den meisten kognitiven Aufgaben übertrifft oder die Menschheit zerstören beziehungsweise entmachten könnte. Verboten wären auch Modelle mit bestimmten »Vorläuferfähigkeiten«. Dazu zählen eigenständige Verbesserungen, unbefugte Zugriffe auf gesicherte Computer und Hilfen zur Entwicklung biologischer, chemischer oder nuklearer Waffen.
Das neue Ministerium müsste fortgeschrittene Modelle während Training und Betrieb auf solche Fähigkeiten prüfen. Erkennt es eine verbotene Fähigkeit, müsste es das Modell vom Internet trennen und seine Entwicklung stoppen. Erkannte Superintelligenz wäre sofort außer Betrieb zu setzen.
Bei Verstößen drohten verantwortlichen Entscheidern und unabhängigen Akteuren bis zu 20 Jahre Haft. Unternehmen könnten ihre Entwicklungsgenehmigung und Vermögenswerte verlieren. Sanders und Casar wollen zudem internationale Abkommen anstoßen, damit Superintelligenz auch außerhalb der USA nicht entwickelt wird.
