Anthropic: Sicherheitsforscher gelangen über Drittsoftware an interne Daten

Das Sicherheits-Start-up »Cathedral« hat sich bei einem erlaubten Test Zugang zu internen Systemen von Anthropic verschafft. Die Forscher nutzten dafür Schwachstellen in Geschäftssoftware anderer Anbieter und fanden Wege zu sensiblen Informationen.

KI-Agenten finden Zugang über externe Anwendungen

Cathedral setzte KI-Agenten ein, um die Anwendungen zu untersuchen. Nach weniger als zwölf Stunden fanden diese Wege zu Daten wie Besprechungsprotokollen, Gehaltsangaben und Slack-Nachrichten über fortgeschrittene KI-Modelle, berichtet die Washington Post unter Berufung auf einen Entwurf des Cathedral-Berichts.

Anthropic zufolge hatten die Forscher zuvor mehrere Tage lang erfolglos versucht, direkt in die Software des Unternehmens einzudringen. Anschließend wandten sie sich den externen Geschäftsanwendungen zu, die Anthropic für Verwaltungs- und Vertriebsaufgaben nutzt. Die Namen der Anbieter wurden aus Sicherheitsgründen nicht genannt.

Der Test fand im Rahmen eines Programms statt, mit dem Anthropic externe Sicherheitsforscher zur Suche nach Schwachstellen einlädt. Cathedral meldete die Ergebnisse dem Unternehmen und informierte auch die betroffenen Softwareanbieter.

Welche Daten betroffen waren

Anthropic bestätigte den Zugriff auf einen begrenzten Teil seiner Systeme für Vertrieb, Personal und IT. Darunter waren geschäftliche Kontaktdaten einiger Kunden und Partner sowie grundlegende Daten einzelner Nutzerkonten.

Auf Gespräche von Kunden mit Claude, die Antworten des Chatbots, den Quellcode und die Modellgewichte hatten die Forscher nach Angaben von Anthropic keinen Zugriff. Das Unternehmen deaktivierte die betroffenen Anwendungen und nahm sie erst wieder in Betrieb, nachdem die Anbieter die Schwachstellen behoben hatten.

Anthropics Überwachung hatte einen Teil der Aktivitäten bereits vor der Meldung erkannt. Hinweise auf eine Ausnutzung durch andere als Cathedral gebe es nicht, teilte das Unternehmen mit.

Streit um die Regeln des Tests

Anthropic wirft Cathedral vor, nicht alle Aktivitäten in den Systemen offengelegt und damit die Regeln des Programms nicht vollständig eingehalten zu haben. Cathedral erklärte in seinem Bericht, die Zugriffe auf Daten auf das absolute Minimum beschränkt zu haben.

Das Start-up wurde von ehemaligen Mitarbeitern der US-Regierungsinitiative DOGE gegründet. Der Fall zeigt, dass auch gewöhnliche Geschäftssoftware einen Zugang zu sensiblen Unternehmensdaten eröffnen kann.