Anthropic hat in seinem ersten Public Benefit Report fünf Leitziele für die eigene Arbeit festgelegt. Sie beschreiben, wofür das KI-Unternehmen stehen und woran es sich künftig messen lassen will.
1. KI muss technisch sicher sein
Anthropic will Modelle entwickeln, die auch unter Druck an menschlichen Werten ausgerichtet bleiben und keine schweren, unumkehrbaren Schäden verursachen. Das Unternehmen will verstehen, warum ein Modell handelt, gefährlichen Missbrauch verhindern und Fehlschläge offenlegen. Auch die Frage, wie Menschen und KI einander behandeln, gehört zu diesem Ziel.
Anzeige
2. KI-Sicherheit braucht gemeinsame Regeln und Gesetze
Anthropic will, dass alle Entwickler fortgeschrittener Modelle vergleichbare Sicherheitsregeln befolgen. Freiwillige Zusagen reichen dafür nicht aus, weshalb Gesetze die Entwicklung und Veröffentlichung gefährlicher Modelle absichern sollen. Unabhängige Prüfungen und die Zusammenarbeit zwischen Staaten gehören ebenfalls dazu.
3. KI soll Demokratie und globale Stabilität stärken
Demokratische Staaten sollen bei KI führen und die Technik nutzen, um Bürgerrechte zu schützen und öffentliche Aufgaben besser zu erfüllen. Anthropic will Wahlmanipulation und autoritären Missbrauch verhindern sowie den Austausch über gefährliche KI zwischen rivalisierenden Staaten fördern. Kein einzelner Mensch, kein Unternehmen und kein Modell soll die Zukunft der KI allein bestimmen.
Anzeige
4. KI soll Wohlstand und Lebensqualität erhöhen
Anthropic will, dass KI die Weltwirtschaft wachsen lässt und der entstehende Wohlstand möglichst viele Menschen erreicht. Arbeitnehmer sollen mehr verdienen, finanziell sicherer leben und auch in Ländern mit niedrigen und mittleren Einkommen von der Entwicklung profitieren. KI-Produkte sollen die Zeit, Aufmerksamkeit und Urteilskraft ihrer Nutzer respektieren.
5. Die Vorteile von KI sollen allen zugutekommen
Anthropic will Fortschritte in Medizin, Bildung und Forschung weltweit zugänglich machen. KI soll bezahlbar sein, verschiedene Sprachen und Formate unterstützen sowie neue Medikamente und wissenschaftliche Entdeckungen beschleunigen. Menschen sollen mit KI mehr lernen können, ohne das eigene Denken an sie abzugeben.
