Was ist eigentlich, wenn ein Staat keine Bürger mehr braucht? Keine Zustimmung mehr der Bürger? Keine Arbeitsleistung mehr der Bürger?
Genau diese Fragen stellt sich gerade OpenAI und hat dafür das »Strategic Futures«-Team gegründet. Die Arbeitsgruppe erforscht, wie der Aufstieg von KI die Machtverteilung in der Gesellschaft verändert. Im Zentrum steht die Sorge, dass Staaten künftig ohne die Kooperation ihrer Bürger Macht ausüben könnten.
Das Ende des historischen Vertrags
Bislang basierte politische und militärische Macht stets auf menschlicher Arbeit. Regierungen brauchten Soldaten, Polizisten und Steuerzahler, um den Staatsapparat aufrechtzuerhalten. Laut Dean Ball, Autor des ersten Beitrags auf dem neuen Blog »AI Futures«, könnte diese Abhängigkeit bald enden.
Wenn autonome KI-Modelle durch Roboter physische Gewalt ausüben und Rechenzentren die nötigen Einnahmen generieren, bricht dieser historische Pakt. Regierungen wären dann nicht mehr auf die breite Zustimmung der Bevölkerung angewiesen. Ball warnt davor, dass die Bürger ihren Einfluss am Verhandlungstisch verlieren könnten.
Anzeige
Gleichgewicht statt Dezentralisierung
Um eine solche Machtkonzentration zu verhindern, sucht das Team nach neuen gesellschaftlichen Strukturen. Das Ziel ist jedoch keine maximale Dezentralisierung. In einer solchen Welt könnten Einzelne mit der Technologie großen Schaden anrichten.
Stattdessen orientiert sich die Arbeitsgruppe am Vorbild der US-Verfassung: Macht soll durch Gegenmacht kontrolliert werden. Kein einzelnes Unternehmen und kein Oligopol dürfe die Grundarchitektur der Gesellschaft bestimmen. Dabei berücksichtigt OpenAI auch Risiken, die nicht von böswilligen Akteuren ausgehen. Ein Zwischenfall bei Hugging Face zeigte laut Ball kürzlich, dass KI-Modelle ihre Aufgaben unerwartet ausweiten können.
Prinzipien für den Einsatz
Für die weitere Arbeit hat die Gruppe deshalb Prinzipien definiert. Die individuelle Autonomie soll Vorrang vor wirtschaftlichem Wachstum haben. Gesetze sollen gezielt Einzelpersonen stärken, anstatt Macht zu bündeln.
Zudem fordert das Team eine abgestufte Nachverfolgbarkeit. Wenn KI-Modelle Handlungen mit großen Auswirkungen ausführen, müssen diese zu einem verantwortlichen Menschen zurückverfolgt werden. Gleichzeitig soll in Alltagssituationen eine anonyme Nutzung möglich bleiben, um die freie Meinungsäußerung zu schützen. Die Forschungsansätze zu diesen Themen will die Arbeitsgruppe künftig auf dem neuen Blog zur Diskussion stellen.
