Anthropic startet Claude in Chrome – aber mit Vorsicht

Anthropic testet seinen Browser-Agenten mit wenigen Nutzern. Was steckt hinter dem vorsichtigen Start und welchen Risiken begegnet Claude?

gpt-image-1 | All-AI.de

Ein digitaler Assistent, der Webseiten bedienen, Mails schreiben und Termine eintragen kann – und das direkt im Browser. Mit „Claude for Chrome“ bringt Anthropic erstmals einen eigenen KI-Agenten in den Alltagstest. Der Zugang bleibt aber stark beschränkt. Der Grund: Das Unternehmen warnt selbst vor möglichen Angriffen und testet den Umgang mit Risiken.

Ein Agent, der mit Webseiten interagiert

Claude for Chrome arbeitet als Seitenleiste direkt im Google-Browser. Der Agent erkennt, was auf einer Webseite steht, kann Buttons klicken, Formulare ausfüllen oder Inhalte zusammenfassen. Wer möchte, kann sich von ihm Mails vorschreiben lassen, neue Website-Funktionen ausprobieren oder den Kalender automatisch verwalten lassen.

Zunächst dürfen nur 1.000 Nutzer mit Max-Abo den neuen KI-Helfer ausprobieren. Weitere Interessenten können sich auf eine Warteliste setzen lassen. Der Einsatz ist dabei bewusst eingeschränkt. Claude fragt vor riskanten Handlungen nach, darf nur auf freigegebenen Seiten arbeiten und meidet sensible Inhalte wie Bankseiten oder Erwachsenenportale.

Schutz vor Angriffen mit versteckten Befehlen

Im Fokus steht ein bekanntes Problem bei KI-Agenten: sogenannte Prompt-Injections. Dabei versuchen Angreifer, versteckte Anweisungen in Webseiten oder Mails einzubauen, die die KI zu ungewolltem Verhalten bringen. In internen Tests klickte Claude dadurch versehentlich auf „Löschen“-Buttons oder verschickte Daten ohne Zustimmung.

Anthropic hat daraufhin verschiedene Schutzmechanismen eingebaut. Der Agent muss für viele Seiten freigeschaltet werden, erkennt verdächtige Inhalte automatisch und fragt bei gefährlichen Aktionen nach einer Bestätigung. Das Unternehmen spricht von einer deutlich verbesserten Sicherheit – ganz verhindern lassen sich Angriffe aber bisher nicht.

Konkurrenz schläft nicht

Claude ist nicht der einzige Browser-Agent. Auch OpenAI testet bereits einen KI-Assistenten, der im Netz Aufgaben übernimmt. Google wiederum erweitert seine Suche um ähnliche Funktionen, etwa zum automatischen Buchen von Terminen. Klar ist: Die großen Anbieter arbeiten daran, KI direkt in die tägliche Internetnutzung zu integrieren.

Der Unterschied liegt in der Umsetzung. Während manche Systeme möglichst schnell auf breite Nutzergruppen ausgeweitet werden, geht Anthropic den umgekehrten Weg: erst Schutzmaßnahmen, dann größere Tests. Für Nutzer bedeutet das zwar längeres Warten – aber auch mehr Kontrolle.

Kostenlose News und Tutorials – mit minimaler Werbung und maximalem Mehrwert. Damit das so bleibt und wir uns stetig verbessern können, freuen wir uns über deine Unterstützung.

Teile diesen Beitrag

Folge uns auf Social Media

Keine KI-News mehr verpassen und direkt kommentieren!

Unterstütze uns direkt

Mit einer YouTube-Mitgliedschaft (ab 0,99 €) oder einmalig über PayPal. So helft ihr uns, unabhängig neue Tools zu testen und noch mehr Tutorials für euch zu erstellen. Vielen Dank für euren Support!