Anthropic hat mit FlashProve einen Open-Source-Prototyp veröffentlicht, der die Herkunft von KI-Antworten kryptografisch belegt. Nutzer sollen damit prüfen können, ob tatsächlich das versprochene KI-Modell geantwortet hat, ohne dessen geheime Modellgewichte zu kennen.
FlashProve prüft ein Modell mit 400 Milliarden Parametern
Ein Anbieter legt zuerst einen digitalen Fingerabdruck seiner Modellgewichte fest. Anschließend erstellt FlashProve zu einer Antwort einen zkSNARK-Nachweis. Dieser bestätigt, dass die festgelegten Modellgewichte den vorliegenden Text erzeugt haben. Manipulierte Antworten oder ein heimlich ausgetauschtes Modell fallen bei der Prüfung durch.
Anthropic testete das Verfahren mit der 4-Bit-Version von Llama 4 Maverick. Das Mixture-of-Experts-Modell besitzt 400 Milliarden Parameter, nutzt pro Token aber nur rund 17 Milliarden davon. Eine Nvidia H100 erzeugte die Nachweise mit 110 Token pro Sekunde.
Der Empfänger benötigt dafür keine Grafikkarte. Die Prüfung dauerte auf einer CPU mit 24 Threads rund 17 Sekunden. Die Erstellung beansprucht allerdings etwa 70- bis 95-mal so viel GPU-Zeit wie eine gewöhnliche Ausgabe mit vLLM.
Anzeige
Der offene Prototyp hat klare Grenzen
Anthropic veröffentlicht Programmcode, Dokumentation und maschinengeprüfte Sicherheitsbeweise unter der Apache-2.0-Lizenz. Der Beweisassistent Lean deckt zentrale Aussagen zur Korrektheit und Geheimhaltung der Modellgewichte ab.
FlashProve arbeitet derzeit aber nur mit einem Kontext von bis zu 1.024 Token und ganzzahliger Berechnung. FlashProve zeigt damit einen praktikablen Forschungsstand, ist aber noch kein fertiger Schutz für alltägliche KI-Dienste.
