OpenAI & Anthropic testen sich gegenseitig auf KI-Schwächen

KIs wie ChatGPT und Claude werden schon von Kriminellen missbraucht – können neue Allianzen das verhindern?

gpt-image-1 | All-AI.de

OpenAI und Anthropic haben erstmals gegenseitig ihre KI-Modelle auf Sicherheitslücken geprüft. Gleichzeitig warnt Anthropic vor echtem Missbrauch durch Kriminelle und gründet einen neuen Beirat für Zusammenarbeit mit staatlichen Stellen. Die Verbindung von technischen Tests, realen Bedrohungen und politischen Allianzen zeigt, wie ernst das Thema KI-Sicherheit inzwischen genommen wird.

Sicherheitschecks unter Konkurrenten

Die beiden KI-Unternehmen testeten im Sommer ihre jeweiligen Systeme. OpenAI untersuchte die Claude-Modelle von Anthropic, während Anthropic die ChatGPT-Modelle von OpenAI testete. Dabei wurden die Schutzmechanismen gezielt gelockert, um Schwachstellen sichtbar zu machen. Das Ziel: Schwächen erkennen, voneinander lernen und gemeinsam sicherere Systeme bauen.

Auffällig war, dass OpenAIs spezialisiertes Modell o3 bei vielen Tests besser abschnitt als Claude. Dagegen zeigten sich bei OpenAIs Allzweck-Varianten wie GPT-4o klare Schwächen. In den Simulationen ließen sie sich leichter zu schädlichen Anfragen verleiten, etwa zur Entwicklung von Drogen oder zur Planung von Anschlägen. Die Claude-Modelle reagierten in solchen Fällen zurückhaltender, verweigerten aber auch häufiger die Antwort – manchmal zu oft, um noch hilfreich zu sein.

Gefährliche Realität: KI im Einsatz bei Kriminellen

Während im Labor noch getestet wird, nutzen Kriminelle KI längst in der Praxis. Laut einem Bericht von Anthropic wurde Claude von Tätern eingesetzt, um gezielt Daten zu stehlen und Firmen zu erpressen – ohne klassische Schadsoftware, nur durch Drohung mit Veröffentlichung. In einem anderen Fall nutzten nordkoreanische Gruppen die KI, um sich als Bewerber bei Tech-Firmen in den USA einzuschleichen. Auch sogenannte Ransomware-as-a-Service-Angebote tauchten auf – automatisiert erstellt und für wenige hundert Dollar verkauft.

Die Beispiele zeigen, wie KI als Werkzeug in allen Phasen eines Angriffs genutzt wird: von der Planung über die Durchführung bis hin zur Kommunikation. Die Täter müssen dabei nicht einmal besonders technisch versiert sein – die KI übernimmt viele Schritte eigenständig. Die Analyse der Verhaltensmuster erfolgte automatisiert und umfasste tausende Gespräche mit den Systemen.

Anthropic baut politischen Beirat auf

Parallel zur Veröffentlichung der Testergebnisse gründete Anthropic einen Beirat für den öffentlichen Sektor. Ziel ist es, besser mit Regierungen zusammenzuarbeiten, gerade in sicherheitsrelevanten Bereichen. Mitglieder sind unter anderem frühere US-Politiker und Beamte mit Erfahrung in Verteidigung und Geheimdiensten.

Der Schritt ergänzt bestehende Kooperationen mit staatlichen Stellen, etwa mit dem US-Verteidigungsministerium. Auch spezielle KI-Modelle für Behörden sind in Arbeit. Dass Anthropic und OpenAI trotz Konkurrenz nun zusammenarbeiten, ist bemerkenswert – zumal es kürzlich noch Streit um die Nutzung von Claude durch OpenAI gab. Konkurrenz und Zusammenarbeit scheinen in der KI-Welt keine Gegensätze mehr zu sein.

Kostenlose News und Tutorials – mit minimaler Werbung und maximalem Mehrwert. Damit das so bleibt und wir uns stetig verbessern können, freuen wir uns über deine Unterstützung.

Teile diesen Beitrag

Folge uns auf Social Media

Keine KI-News mehr verpassen und direkt kommentieren!

Unterstütze uns direkt

Mit einer YouTube-Mitgliedschaft (ab 0,99 €) oder einmalig über PayPal. So helft ihr uns, unabhängig neue Tools zu testen und noch mehr Tutorials für euch zu erstellen. Vielen Dank für euren Support!