Eine Frau aus Florida hat Claude nach eigener Darstellung wie ein Tagebuch genutzt und darin eine mutmaßliche Gewaltdrohung festgehalten. Anthropics Sicherheitstechnik schlug an, ein Mitarbeiter prüfte den Chat und informierte die Polizei. Nun muss sich die 30-Jährige wegen einer schriftlichen Gewaltandrohung verantworten.
Ein neuer Waffenkauf verschärfte den Verdacht
Laut Festnahmebericht schrieb ein als Carli identifizierter Nutzer am 26. September, er werde das Büro des Sheriffs von Lee County »zusammenschießen«. Einen Tag später soll derselbe Nutzer angegeben haben, eine neue Waffe gekauft zu haben.
Automatische Sicherheitsmechanismen erkannten die Einträge und leiteten sie wegen ihrer Schwere an menschliche Prüfer weiter. Das Team meldete die Aussagen anschließend den Strafverfolgungsbehörden. Ermittler identifizierten Carli Michelle Heller aus Bonita Springs und nahmen sie in ihrem Haus fest.
Sheriff Carmine Marceno erklärte, Heller habe Claude wie ein »Tagebuch« verwendet. Ihr wird nun eine schriftliche Gewaltandrohung nach Floridas Paragraf 836.10 vorgeworfen. Dieser stellt Drohungen mit Tötung, Körperverletzung, einem Massaker oder einem Terrorakt unter Strafe, wenn der elektronische Eintrag so übermittelt wird, dass eine andere Person ihn sehen kann. Ein Verstoß gilt als Verbrechen zweiten Grades. Der Gerichtstermin ist für November angesetzt.
Anzeige
Claude-Chats können von Menschen geprüft werden
Anthropic beschreibt offen, dass sein Safeguards-Team Erkennungs- und Überwachungstechnik einsetzt, um Verstöße gegen die Nutzungsregeln aufzuspüren. Die Datenschutzrichtlinie erlaubt außerdem die Verarbeitung von Ein- und Ausgaben, um möglichen Missbrauch, Straftaten und Gefahren für andere zu untersuchen.
In begrenzten Notfällen kann Anthropic Nutzerdaten an Behörden weitergeben, wenn dies aus Sicht des Unternehmens nötig ist, um Tod oder schwere Verletzungen zu verhindern. Der Fall aus Florida zeigt damit sehr konkret, dass ein persönlicher Chat mit Claude kein privates Tagebuch ist. Was vertraulich wirkt, kann automatisiert markiert, von einem Mitarbeiter gelesen und an die Polizei gemeldet werden.
