OpenAI-Agent im Härtetest: 16 kritische Sicherheitslücken entdeckt

110 Angriffe, 7 universelle Exploits – wie sicher ist OpenAI’s ChatGPT-Agent wirklich vor Datenlecks und Bio-Gefahren?

gpt-image-1 | All-AI.de

OpenAI hat seinen neuen ChatGPT-Agenten präsentiert – eine KI, die nicht nur kommuniziert, sondern selbstständig Dateien verwaltet, E-Mails schreibt und im Netz agiert. Doch Sicherheitsexperten schlagen Alarm: Das System bleibt verwundbar. Wie stark ist OpenAIs Verteidigung gegen Angriffe wirklich?

Red-Team deckt massive Schwachstellen auf

Bevor der Agent auf Nutzer losgelassen wurde, musste er sich einem intensiven Red-Team-Test stellen. 16 Sicherheitsforscher versuchten in 40 Stunden, das System zu knacken. Mit Erfolg: 16 Angriffe überstiegen die internen Risikoschwellen, darunter Prompts, die dem Agenten sensible Dokumente entlockten oder ihn zu ungewollten Aktionen bewegten.

Besonders brisant: Die Tester fanden sieben Exploits, die sich auf andere Multitool-Agenten übertragen ließen. Gerade diese universellen Angriffe gelten als gefährlich, weil sie Schwächen in der Grundarchitektur von Agenten-Systemen offenlegen. Damit zeigte sich: Die neue KI-Generation bleibt ein attraktives Angriffsziel.

Schutzarchitektur mit Zwei-Stufen-Analyse

Als Reaktion rüstete OpenAI das System mit einem zweistufigen Sicherheitssystem aus. Ein schneller Klassifizierer identifiziert verdächtige Inhalte im Agenten-Traffic, bevor ein Analysemodell die Entscheidung bestätigt oder verwirft. Parallel dazu wird der komplette Datenverkehr nun dauerhaft überwacht.

Die Zahlen klingen beeindruckend: Angriffe über den Browser werden mit 95 Prozent abgefangen, Datenabflüsse immerhin mit 67 Prozent verhindert. Dennoch bleibt klar: Ein Drittel der Lecks findet weiterhin ihren Weg durch die Verteidigung. Absolute Sicherheit bleibt also trotz aller Fortschritte Illusion.

Biologische Risiken als besonderes Problem

Einen speziellen Fokus legte OpenAI auf die Abwehr sogenannter Bio-Risiken. Red-Team-Mitglieder aus der Biosicherheitsforschung demonstrierten, dass der Agent Wissen über synthetische Bedrohungen preisgeben kann – ein Worst-Case-Szenario. Daraufhin wurden Inhaltsfilter verschärft, das System in den Watch-Mode versetzt und die Memory-Funktion deaktiviert.

Die Konsequenz: Der Agent speichert keine Nutzerdaten mehr, um eine schleichende Sammlung potenziell gefährlicher Informationen zu verhindern. Zusätzlich wurde das Terminal eingeschränkt. Doch selbst OpenAI bewertet den Agenten offiziell als „hochfähig“ im Kontext biologischer und chemischer Risiken – eine bedenkliche Einstufung.

Kostenlose News und Tutorials – mit minimaler Werbung und maximalem Mehrwert. Damit das so bleibt und wir uns stetig verbessern können, freuen wir uns über deine Unterstützung.

Teile diesen Beitrag

Folge uns auf Social Media

Keine KI-News mehr verpassen und direkt kommentieren!

Unterstütze uns direkt

Mit einer YouTube-Mitgliedschaft (ab 0,99 €) oder einmalig über PayPal. So helft ihr uns, unabhängig neue Tools zu testen und noch mehr Tutorials für euch zu erstellen. Vielen Dank für euren Support!