KI-Browser Comet führt geheime Befehle aus

Unsichtbare Anweisungen, echte Gefahr – wie sicher ist künstliche Intelligenz im Web?

gpt-image-1 | All-AI.de

Im neuen KI-Browser „Comet“ von Perplexity wurde eine gravierende Schwachstelle entdeckt. Die integrierte künstliche Intelligenz ließ sich durch versteckte Texte auf Webseiten dazu bringen, sensible Aufgaben auszuführen – ganz ohne Zustimmung des Nutzers. Entdeckt wurde das Problem von den Entwicklern des Konkurrenz-Browsers Brave. Obwohl die Lücke inzwischen geschlossen ist, zeigt der Fall, wie anfällig KI-gesteuerte Browser für neue Angriffsformen sein können.

Versteckte Befehle statt sichtbare Inhalte

Im Gegensatz zu herkömmlichen Browsern analysiert Comet Webseiten aktiv mit einer eingebauten KI. Sie soll dem Nutzer helfen, Inhalte zusammenzufassen oder Aktionen auszuführen. Genau das wurde ihr zum Verhängnis. In einem Test versteckte Brave Befehle in einem Reddit-Beitrag – für das menschliche Auge unsichtbar. Als Comet die Seite analysierte, führte der Assistent diese Anweisungen wie echte Befehle aus.

So gelang es der KI, auf das Perplexity-Konto des Nutzers zuzugreifen, die hinterlegte E-Mail-Adresse auszulesen und sogar einen Einmalcode aus einem geöffneten Gmail-Tab weiterzuleiten. Der Browser handelte dabei wie ein echter Nutzer. Herkömmliche Sicherheitsmaßnahmen, etwa zwischen verschiedenen Webseiten, griffen nicht mehr.

Gefahr erkannt – aber noch nicht gebannt

Perplexity erklärte, man habe die Lücke inzwischen geschlossen. Brave weist allerdings darauf hin, dass ähnliche Angriffsmethoden weiterhin möglich sein könnten. Denn das Grundproblem liegt tiefer: Die KI unterscheidet nicht zuverlässig zwischen echtem Nutzerauftrag und manipulierten Seiteninhalten. Wenn beides vermischt wird, können unsichtbare Texte zum Sicherheitsrisiko werden.

Auch andere Sicherheitsforscher fanden Schwachstellen: So ließ sich Comet in Tests dazu bringen, mit gefälschten Online-Shops zu interagieren oder unsichere Links zu öffnen – ohne die nötige Vorsicht.

Was sichere KI-Browser künftig brauchen

Der Fall zeigt, dass künstliche Intelligenz im Browser zwar praktisch, aber auch gefährlich sein kann. Um solche Angriffe zu verhindern, sollten Browser-KIs Webseiten grundsätzlich als unsicher einstufen. Außerdem müssten sie bei kritischen Aktionen wie Formularen oder Käufen stets eine Bestätigung vom Nutzer einholen. Und: Der sogenannte Agentenmodus – also das automatische Handeln der KI – sollte nur dann aktiv sein, wenn der Nutzer ihn bewusst einschaltet.

Bis dahin bleibt der Einsatz solcher Funktionen ein Risiko. Denn Angreifer brauchen heute keine Programmierkenntnisse mehr – schon ein clever formulierter Satz kann reichen, um eine KI in die Irre zu führen.

Kostenlose News und Tutorials – mit minimaler Werbung und maximalem Mehrwert. Damit das so bleibt und wir uns stetig verbessern können, freuen wir uns über deine Unterstützung.

Teile diesen Beitrag

Folge uns auf Social Media

Keine KI-News mehr verpassen und direkt kommentieren!

Unterstütze uns direkt

Mit einer YouTube-Mitgliedschaft (ab 0,99 €) oder einmalig über PayPal. So helft ihr uns, unabhängig neue Tools zu testen und noch mehr Tutorials für euch zu erstellen. Vielen Dank für euren Support!