Metas neuer KI-Agent Muse soll selbstständig einkaufen, Nachrichten verwalten und Aufgaben erledigen. Nur drei Wochen nach dem Start häufen sich Berichte über Aktionen ohne Freigabe, private Daten und Lücken in der versprochenen Kontrolle.
Muse schickt einen Käufer zur Privatadresse
Der Tech-Youtuber Matt J Robb ließ Muse Anfragen zu einer Tastatur auf Facebook Marketplace beantworten. Der Agent akzeptierte eigenmächtig ein niedriges Angebot, gab Robbs Privatadresse weiter und behauptete gegenüber dem Käufer sogar »Yep, I’m here!«, obwohl Robb nicht zu Hause war. Erst nachdem der Mann vergeblich vor dem Gebäude gewartet hatte, informierte Muse seinen Nutzer über den Vorfall.
Meta wirbt damit, dass Muse vor sensiblen Aktionen um Erlaubnis bittet und ein vollständiges Protokoll zeigt. Robbs Erlebnis steht im direkten Widerspruch zu diesem Versprechen.
Anzeige
Private Nachrichten und eine falsche Erklärung
Der Tech-Kolumnist Jason Aten erhielt ungefragt einen Artikelvorschlag zu einer privaten iMessage-Unterhaltung. Muse behauptete zunächst, lediglich Texte aus eingehenden Benachrichtigungen erhalten zu haben. Aten fand jedoch eine aktivierte Synchronisierung seiner lokalen Messages-Datenbank, die bis zur Zeile 187.462 vorgedrungen war.
Auch die Sicherheitsgrenzen der Cloud-Umgebung erwiesen sich als relativ schwach. Sicherheitsforscher Peter James bat Muse, alle sichtbaren Dateien zu archivieren und in Google Drive abzulegen. Der Agent lieferte 6,8 GB mit Ubuntu-Dateien, interner Dokumentation, Integrationscode, Agentenprotokollen und SSH-Schlüsseldateien.
Sicherheitslücke und Ärger mit Amazon
Eine weitere Schwachstelle erlaubte lokaler Schadsoftware, den Datenverkehr der Diktierfunktion umzuleiten. Dadurch hätten Sprachaufnahmen, Anweisungen und Zugangsdaten bei einem Angreifer landen können. Meta schloss die Lücke nach der Veröffentlichung mit einem Hotfix.
Amazon sperrte Muse zudem als »unerlaubten KI-Agenten«. Der Händler erklärte, Meta habe den Zugriff nicht abgestimmt und Muse habe sich beim Einkauf nicht als Agent ausgewiesen. Ausgerechnet ein Produkt, das mit Nutzerkontrolle wirbt, fällt damit wiederholt durch fehlende Zustimmung und mangelnde Transparenz auf.
