Anthropic-Gründer spricht im Vatikan über KI-Modelle
Papst Leo XIV veröffentlicht eine neue Enzyklika zur Technologie. Anthropic unterstützt die Forderung nach Aufsicht.
Anthropic-Mitgründer Chris Olah fordert anlässlich der neuen Papst-Enzyklika eine strikte externe Kontrolle der KI-Industrie. In seiner Rede im Vatikan warnt er vor kommerziellen Zwängen und enthüllt unerwartete interne Strukturen in aktuellen KI-Modellen.
Die Branche braucht externe Kritiker
KI-Unternehmen stehen weltweit unter enormem wirtschaftlichem und geopolitischem Druck. Laut Olah kollidieren diese Anreize häufig mit dem Vorhaben, sichere und verantwortungsvolle Technologie zu entwickeln. Selbst bei besten Absichten lassen sich Entwickler immer von Ambitionen und Wettbewerb beeinflussen.
Aus diesem Grund sind unabhängige Beobachter außerhalb dieser industriellen Zwänge zwingend erforderlich. Gesellschaftliche Gruppen müssen die Entwicklung genau prüfen und auch unbequeme Wahrheiten aussprechen. Die Kirche kann hierbei laut dem Forscher eine wichtige Rolle übernehmen, um den Diskurs in geregelte Bahnen zu lenken.
Anzeige
Das mysteriöse Innenleben der Technologie
Olah betont, dass moderne KI-Modelle nicht wie klassische Maschinen konstruiert werden. Sie trainieren vielmehr auf Basis riesiger Datenmengen und wachsen ähnlich wie organische Strukturen heran. Selbst für die Entwickler bleiben die genauen Abläufe innerhalb der Netzwerke oft unklar.
Die Forschungsteams bei Anthropic entdecken regelmäßig rätselhafte Phänomene im Inneren der Technologie. Forscher finden dort Strukturen, die Erkenntnissen aus der menschlichen Neurowissenschaft stark ähneln. Manche internen Zustände spiegeln funktional sogar menschliche Reaktionen wie Freude, Angst oder Trauer wider.
Globale Verteilung und Ausblick
Ein weiteres ungelöstes Problem bleibt die drohende Verschiebung von Arbeitsplätzen im großen Maßstab. Die KI-Entwicklung konzentriert sich aktuell auf wenige reiche Nationen, weshalb die finanziellen Gewinne global ungleich verteilt werden. Es fehlen bisher die Mechanismen, um die Vorteile der Technologie weltweit gerecht zu teilen.
Die Gesellschaft muss gemeinsam aushandeln, wie ein Leben mit KI zukünftig aussehen soll. Die Entwickler allein können diese weitreichenden ethischen Fragen nicht beantworten. Olah schließt den Vortrag mit der Bitte um einen anhaltenden Dialog zwischen Technologieunternehmen und der Zivilgesellschaft.
