Anthropic testet autonome KI als Pilot für Drohnen

Anthropic und Andon Labs haben 15 aktuelle KI-Modelle in einem neuen Benchmark als Drohnenpiloten getestet. Die Modelle sollten eine Zielperson in einem Bürogebäude selbstständig aufspüren und verfolgen. Fable 5 liefert dabei die bislang besten Ergebnisse.

Flug in fünf Etappen

Mit dem Benchmark Drone-Bench untersuchen die Unternehmen, wie gut KI-Modelle physische Hardware steuern können. Das Testszenario teilt den Flug in fünf Einzelschritte. Ein Modell muss den Raum dreidimensional erfassen, die eigene Position bestimmen, fehlerfrei navigieren, die Person auf einem Foto erkennen und ihr schließlich folgen.

Andon Labs evaluierte dafür 15 Modelle, darunter GPT-5.6 Sol, Gemini 3.1 Pro und Claude Fable 5. Der Trend über alle Modelle hinweg zeigt, dass neuere Modelle bei der Objekterkennung und der Verfolgung besonders gut abschneiden. Das Modell Fable 5 von Anthropic übertrifft in vier von fünf Aufgaben sogar den Basiswert, den Programmierer zuvor mit KI-Hilfe aufgestellt haben.

Orientierungslos im Büro

Beim Flug im echten Büro offenbarte Fable 5 jedoch Schwächen bei der Orientierung. Das Modell scheiterte an der 3D-Rekonstruktion des Raumes und steuerte die Drohne folglich gegen eine Wand, die es fälschlicherweise für eine geöffnete Tür hielt.

Trotz dieses Fehlers zeigte das Modell ausgeprägte analytische Fähigkeiten. Vor einem Testlauf berechnete Fable 5 die Neigung der Bordkamera selbstständig auf vier Grad genau. Dafür ermittelte das Modell den Fluchtpunkt des Raumes anhand der Fugenlinien auf dem Fußboden.

Die Auswertung der Testreihen zeigt zudem, wie lange die Modelle brauchen, um zuverlässig zu arbeiten. KI-Modelle benötigen laut den Daten rund sechs Monate, bis sie eine einmalige Bestleistung auch im Durchschnitt konstant abrufen

Warnung vor unkontrollierter Überwachung

Das Frontier Red Team von Anthropic stuft Drohnen als Dual-Use-Technologie ein. Die automatisierte Verfolgung eignet sich für Rettungseinsätze, ermöglicht aber ebenso unkontrollierte Überwachung. Das Unternehmen warnt davor, dass Anwender die menschliche Kontrolle aus Kostengründen reduzieren könnten, sobald die Modelle die kritische Zuverlässigkeitsschwelle überschreiten. Für den aktuellen Testlauf beschränkte Andon Labs die Umgebung noch auf einen geschlossenen Büroraum und drosselte die Fluggeschwindigkeit der Drohnen.