Anthropic fragt Nutzer nach ihren größten KI Ängsten
Der Claude Entwickler startet eine weltweite Umfrage. Das Unternehmen verspricht öffentliche Antworten auf alle kritischen Fragen.
Anthropic sammelt kritische Fragen zu künstlicher Intelligenz. Das Unternehmen hat am Donnerstag eine Website gestartet, auf der Nutzer ihre Bedenken äußern können. Im Fokus der »hard questions« genannten Initiative stehen Arbeitsplatzverluste, der Wert menschlicher Kreativität und die Gefahren durch Missbrauch.
Anthropic will die eingereichten Fragen auswerten und konkret beantworten. Das Unternehmen verpflichtete sich dazu, die eigenen Maßnahmen öffentlich zu dokumentieren und dabei auch verfehlte Ziele offen zu benennen.
Eigene Forschungsabteilung gegründet
Als Public Benefit Corporation hat sich der KI-Entwickler gesetzlich dem Gemeinwohl verschrieben. Die neue Kampagne baut auf früheren Befragungen auf: So gaben bereits 52.000 US-Bürger und 81.000 Claude-Nutzer in 159 Ländern Auskunft zu ihren Erwartungen. Auch Erkenntnisse aus anonymisierten Nutzungsdaten und Fokusgruppen fließen in die Arbeit ein.
Um all diese Informationen wissenschaftlich auszuwerten, hat das Unternehmen das Anthropic Institute gegründet. Diese interne Abteilung erforscht gezielt die gesellschaftlichen Herausforderungen durch KI-Modelle. Ein unabhängiges Gremium, der Long-Term Benefit Trust, überwacht die Einhaltung der gemeinnützigen Vorgaben.
Nutzer erhoffen sich von künstlicher Intelligenz schnelle medizinische Fortschritte und Arbeitserleichterungen. Gleichzeitig wächst die Sorge, dass die Modelle die menschliche Entscheidungskraft schwächen könnten. Die gesammelten Fragen und Antworten veröffentlicht Anthropic künftig auf seiner Website.
