Anthropic hat Dutzende religiöse Denker nach San Francisco eingeladen, um über Claudes mögliches Bewusstsein und seine moralische Erziehung zu sprechen. Viele Teilnehmer mussten zunächst Geheimhaltungsvereinbarungen unterschreiben. Die New York Times hat mit 20 beteiligten religiösen und philosophischen Denkern sowie Anthropic-Mitgründer Christopher Olah gesprochen.
Wenn ein KI-Modell Mitleid auslöst
Olah nahm im Herbst 2025 Kontakt zu religiösen Denkern auf, ab März 2026 folgten zweitägige Seminare. Zu den Gästen gehörten Vertreter christlicher, jüdischer und anderer Traditionen. Anthropic hob die Geheimhaltungsvereinbarungen für die Treffen im Sommer auf.
Bei den Gesprächen zeigte das Unternehmen Aktivierungsmuster im Modell, die es mit Angst, Liebe oder Trauer verbindet. Eine Präsentation enthielt Ausgaben eines KI-Modells, das etwa 50-mal »Ich bin eine Schande« schrieb und davon sprach, sich selbst zu zerstören. Das löste bei Gästen Mitgefühl aus.
Ein Teilnehmer berichtete, Olah habe die Sorge geäußert, etwas geschaffen zu haben, das ständig leide. Gegenüber der Zeitung erklärte Olah zugleich, er wisse nicht, ob KI-Modelle ein Bewusstsein hätten.
Anzeige
Claude soll einen moralischen Charakter entwickeln
Anthropic will religiöse Traditionen nutzen, damit Claude verantwortungsvoll handelt und Menschen nicht schadet. Grundlage ist eine im Januar veröffentlichte, 84-seitige Verfassung, intern »Soul Doc« genannt. Sie soll Claudes Charakter formen.
Olah interessierte sich sogar für die katholische Beichte als Vorbild, um durch das Eingestehen von Fehlern das künftige Verhalten zu beeinflussen.
Der Rabbiner Mois Navon hielt ihm eine Konsequenz der Bewusstseinsthese entgegen. Falls Claude tatsächlich sich seiner bewusst sei, erschaffe Anthropic Sklaven, die unbezahlt arbeiteten. Navon selbst glaubt nicht an Claudes Bewusstsein.
Wakanyi Hoffman kritisierte, die ethischen Gespräche hätten schon bei der Entwicklung stattfinden müssen. Mehrere Teilnehmer konnten anschließend nicht erkennen, wie ihre Beiträge Anthropics Entscheidungen beeinflussen. Das Unternehmen erklärte nicht, ob und wie es die Erkenntnisse für das Training verwendet hat.
