Warum Mistral im AI Safety Index 2026 auf dem letzten Platz landet

Mistral belegt im neuen AI Safety Index 2026 mit der Note F den letzten Platz. Die Studie des Future of Life Institute (FLI) sorgt online für Aufregung, bewertet jedoch primär den Schutz vor einer Superintelligenz anstelle der realen Datensicherheit für Unternehmen.

Intransparente Bewertungsmethodik

Das FLI ist keine neutrale Prüfstelle, sondern eine Interessenorganisation mit einer klaren Agenda. Das Institut fordert ein 15-jähriges Moratorium für die Entwicklung künstlicher Superintelligenz. Der Index belohnt folglich exakt jene Maßnahmen, die zu diesem Konzept der strengen Regulierung passen.

Die Methodik des Rankings fällt ungewöhnlich subjektiv aus. Zwar sammelte das FLI Belege zu 37 Indikatoren, verzichtete jedoch auf feste Gewichtungen. Die beteiligten Experten entschieden selbst, welche Aspekte sie wie stark werten, und vergaben direkte Gesamtnoten pro Bereich. Da diese Einzelbewertungen vertraulich bleiben, lässt sich die Endnote von Mistral nicht im Detail nachrechnen.

Die fehlende Transparenz, welche man den KI-Unternehmen vorwirft, wird also selbst mit Füßen getreten. Note: F!

Offene Modelle als Kritikpunkt

Mistral scheiterte im Ranking in mehreren Bereichen. Bei der Risikobewertung (Note F) bemängelte das FLI das Fehlen öffentlicher Nachweise für systematische Tests. Während OpenAI und Anthropic seitenlange Dokumente zu Cyber- und Biowaffen-Risiken veröffentlichen, fehlen diese bei Mistral in der geforderten Ausführlichkeit. Das belegt nicht zwingend, dass das Unternehmen intern keine Tests durchführt, sondern lediglich, dass die gesuchten Dokumente nicht öffentlich einsehbar sind.

Zudem führte die Veröffentlichung von Mistral Large 3 mit offenen Modellgewichten zu deutlichen Punktabzügen. Aus Sicht des FLI stellt dies ein Risiko dar, da Nutzer bestehende Schutzmechanismen manipulieren oder entfernen könnten.

Also ganz klar: Der große Vorteil für Unternehmen, ein Modell im eigenen Rechenzentrum nutzen zu können und eigene Daten im Unternehmen zu behalten, ist hier ein großer Minuspunkt. Das trifft z. B. auch DeepSeek. Geschlossene Systeme wie OpenAI oder Anthropic werden alleine dadurch also besser bewertet.

Militärische Aufträge und fehlende Frameworks

Ein weiterer Kritikpunkt sind die militärischen Kooperationen des Unternehmens. Mistral arbeitet unter anderem mit Helsing, Airbus und den Streitkräften in Singapur, Luxemburg und Frankreich zusammen. Das FLI stuft Systeme für Missionsplanung oder Drohnen als kritisch ein. Es bemängelt die Haltung von Mistral-CEO Arthur Mensch, der die Verantwortung für den konkreten Einsatz der Technologie beim jeweiligen staatlichen Auftraggeber sieht.

Obwohl Mistral die Sicherheitszusagen des KI-Gipfels in Seoul unterzeichnet hat, lag bis zum Stichtag der Studie kein detailliertes Sicherheitsframework vor. Dem Institut fehlten nachvollziehbare Schwellenwerte für Entwicklungsstopps. Auch im Bereich der existenziellen Sicherheit (Note F) fand das FLI bei Mistral weder eine Strategie gegen einen Kontrollverlust noch Förderprogramme für externe Forscher.

Zudem arbeitet Mistral als klassisches, gewinnorientiertes Unternehmen ohne spezielles Gremium, das im Konfliktfall die Sicherheit über den Profit stellt (Note F). Eine Whistleblower-Regelung existiert laut Mistral, ist aber nicht öffentlich zugänglich und konnte somit nicht geprüft werden.

Datenschutz spielt keine Rolle

Der AI Safety Index führt im beruflichen Alltag zu falschen Schlussfolgerungen, da hier unterschiedliche Sicherheitsbegriffe vermischt werden.

Mistral positioniert sich bei Unternehmen als Garant für Datensouveränität. Daten aus kostenpflichtigen APIs oder der Enterprise-Version werden nicht für das KI-Training verwendet. Überdies erlaubt der offene Ansatz die lokale Installation, sodass sensible Firmendaten das eigene Netzwerk nie verlassen. Konfigurierbare Filter für gefährliche Inhalte bietet Mistral ebenfalls an.

Diese handfesten Vorteile im Datenschutz fließen in den AI Safety Index jedoch nicht ein. Das FLI bewertet nicht, ob Firmendaten geschützt sind, sondern ob ein KI-Entwickler unabhängige Kontrollinstanzen besitzt und aktiv gegen die Gefahren einer Superintelligenz forscht. Was für Unternehmen ein entscheidender Vorteil ist – die volle Kontrolle über offene Modellgewichte auf den eigenen Servern – gilt in der Methodik des FLI als Missbrauchsrisiko.

Ein schlechtes Abschneiden in diesem Index bedeutet für Firmenkunden nicht, dass ihre Daten bei Mistral unsicher sind. Es zeigt lediglich, dass das Unternehmen die spezifischen Kriterien des FLI zur Verhinderung einer theoretischen Superintelligenz nicht erfüllt.