Google DeepMind gründet ein Institut, das sich mit den Folgen einer möglichen allgemeinen künstlichen Intelligenz befassen soll. Das DeepMind Institute will Forscher, Politiker und Stimmen aus Kunst und Geisteswissenschaften ins Gespräch bringen. Es geht um eine Frage, die weit über bessere KI-Modelle hinausreicht.
Wie soll eine Gesellschaft aussehen, in der Maschinen die kognitiven Fähigkeiten des Menschen erreichen?
Eine Plattform für offene Fragen
Das Institut beschreibt sich als Plattform für Forschung, Veröffentlichungen und Debatten. Beteiligt sind Autoren aus Google DeepMind, dem übrigen Google-Konzern und der internationalen Forschung. An der Spitze stehen DeepMind-Mitgründer Demis Hassabis und Shane Legg sowie Google-Manager James Manyika. Legg übernimmt zusätzlich die redaktionelle Leitung.
Die Gründung zeigt, welche Fragen Google DeepMind inzwischen für dringlich hält. Das Institut will untersuchen, wie AGI sicher entwickelt und gesteuert werden kann, welche Regeln für Gemeinschaften autonomer KI-Agenten nötig wären und welche Institutionen sich anpassen müssten. Auch die Frage, was Menschen in einer solchen Welt wichtig sein wird, gehört zum Programm.
DeepMind begründet den Schritt mit dem schnellen Fortschritt heutiger KI. Die Autoren erwarten, dass sich die verbleibenden Lücken zur AGI bald schließen könnten. Zugleich räumen sie ein, dass aktuelle Modelle noch an einfachen Aufgaben scheitern und ihnen die nötige Verlässlichkeit und Kreativität fehlen. Wann AGI tatsächlich erreicht wird, nennt das Institut nicht.
Die möglichen Folgen beschreibt DeepMind in beide Richtungen. AGI könnte Forschung zu Krankheiten und sauberer Energie beschleunigen und wirtschaftlichen Wohlstand schaffen. Gleichzeitig verweist das Institut auf Cyberangriffe, biologische Risiken und einen möglichen Kontrollverlust bei künftigen Modellen, die sich selbst verbessern. Gerade diese Spannweite soll die Debatte über Entwicklung und Einsatz prägen.
Anzeige
Die ersten drei Essays
Die ersten Veröffentlichungen zeigen, wie breit das Institut ansetzt. In einem Essay plädieren Rohin Shah und Anca Dragan dafür, die lesbaren Zwischenschritte beim Reasoning von KI-Modellen zu bewahren. Sie sehen darin eine Möglichkeit, Täuschung oder andere problematische Verhaltensweisen zu erkennen.
Ein zweiter Beitrag prüft elf wirtschaftspolitische Maßnahmen für mögliche Verwerfungen durch AGI. Die Autoren schlagen vor, Reaktionen an beobachtbare Veränderungen am Arbeitsmarkt zu knüpfen.
Im dritten Artikel fordert Stephen Cave eine positive Vorstellung von einer Gesellschaft mit AGI, die aus den Fehlern früherer Utopien lernt.
Damit verbindet das Institut technische Sicherheitsfragen mit Wirtschafts- und Gesellschaftspolitik. Seine Autoren sollen unterschiedliche Positionen veröffentlichen und ihre Ansichten bei neuer Erkenntnis ändern können. Die Beiträge dienen als Denkanstöße und geben nicht automatisch Googles offizielle Haltung wieder. Für die Leser ist diese Trennung wesentlich, weil die Debatte auf einer Plattform stattfindet, die aus dem Unternehmen selbst hervorgegangen ist.
