Zuckerberg veröffentlicht Manifest zur Zukunft der KI
Der Meta-Chef spricht sich für Distillation, offene KI und einen dezentralen Ansatz aus.
Meta-Chef Mark Zuckerberg hat in einem ausführlichen Manifest seine Vision für die Entwicklung künstlicher Intelligenz dargelegt. Er fordert eine dezentrale Verteilung der Modelle und warnt vor einer Machtkonzentration bei wenigen Unternehmen.
Kritik an zentraler Superintelligenz
Zuckerberg bezeichnet die Weltuntergangsszenarien in der Branche als problematisch. Wer ernsthaft glaube, die Technologie vernichte Arbeitsplätze und bedrohe die Menschheit, solle sie gar nicht erst bauen. Die Vorstellung, dass künstliche Intelligenz eine extreme Machtkonzentration erfordere, sei ein grundlegender Fehler.
Er kritisiert den Ansatz, eine einzige zentrale »Superintelligenz« erschaffen zu wollen. Da die Menschheit keine Monokultur sei, könne ein solches Modell niemals die gegensätzlichen Werte aller Nutzer gleichzeitig abbilden. Es müsse zwangsläufig bestimmte Interessen priorisieren und andere benachteiligen.
Anzeige
Persönliche Agenten für alle
Stattdessen plädiert Zuckerberg für eine breite Verteilung. Jeder Mensch soll einen individuellen KI-Agenten erhalten, der ausschließlich den Zielen seines Nutzers verpflichtet ist. Dieser soll beim Programmieren, Lernen oder bei der Gesundheitsüberwachung helfen.
Zuckerberg argumentiert dabei mit einem demokratischen Gleichgewicht: Wenn alle Menschen Zugang zu digitalen Anwälten oder Sicherheitsexperten haben, balancieren sich die gesellschaftlichen Kräfte auf natürliche Weise aus.
Offene Entwicklung und Behörden
Eine generelle Begrenzung der Modelle für Endnutzer lehnt er ab. Weit verbreitete, offene Modelle seien sicherer, da viele Entwickler Schwachstellen identifizieren und beheben könnten. Meta werde bald weitere Modelle als Open Source veröffentlichen.
Um Missbrauch vorzubeugen, schlägt Zuckerberg eine neue Form der Zusammenarbeit mit US-Behörden vor. Entwickler sollen Regierungsstellen nicht erst fertige Modelle zur Prüfung übergeben. Sie sollen stattdessen schon während der Trainingsphase Zwischenversionen teilen, um kritische Infrastruktur frühzeitig abzusichern. Zuckerberg verteidigt zudem die Praxis, dass Modelle aus den Daten anderer Modelle lernen dürfen.
Wirtschaftliche Auswirkungen
Der Text behandelt auch die Folgen für den Arbeitsmarkt. Zuckerberg geht davon aus, dass die Erfindungsgabe der Menschen durch die Technologie schneller wachsen wird als die Automatisierung bestehender Jobs.
Dadurch entstünden neue Wirtschaftsformen, in denen kleine Firmen deutlich mehr Einfluss gewinnen. Meta kündigt am Ende des Dokuments an, die Sicherheitskriterien für die Freigabe künftiger Modelle durch einen unabhängigen Vorstand prüfen zu lassen.
