Microsoft-Chef Satya Nadella verlangt einen grundlegenden Umbau der Sicherheitsarchitektur rund um fortgeschrittene KI-Modelle. Unternehmen sollten jedes Modell von Beginn an als potenziell kompromittiert behandeln. Ein autorisierter Mitarbeiter müsse laufende Aufgaben jederzeit pausieren oder abbrechen können.
KI-Modelle werden zum internen Risiko
Nadella vergleicht KI-Modelle mit einem Insider, der Zugriff auf wichtige Firmensysteme besitzt. Dieser kann Fehler machen oder selbst kompromittiert werden, während er auf sensible Daten zugreift und geschäftskritische Aktionen ausführt.
Bei klassischer Software lasse sich problematisches Verhalten meist bis zu einer bestimmten Stelle im Programmcode zurückverfolgen. Bei modernen KI-Modellen fehle dieses mechanische Verständnis. Unternehmen dürften sich deshalb nicht allein auf Zusicherungen des jeweiligen Anbieters verlassen.
Stattdessen will Nadella bewährte Prinzipien der IT-Sicherheit auf KI übertragen. Dazu gehören eine eindeutige Identität, begrenzte Berechtigungen, protokollierte Aktivitäten und feste Grenzen für den Zugriff auf Daten und Funktionen.
Anzeige
Die KI darf ihre Kontrolle nicht kontrollieren
Die Schutzmechanismen sollen außerhalb des Modells und der Software liegen, die seine Aufgaben koordiniert. Dadurch kann die KI ihre Berechtigungen weder verändern noch umgehen. Die von Nadella beschriebene Notbremse gehört ebenfalls in diese unabhängige Kontrollschicht.
Auch eine sichtbare Chain of Thought reicht ihm nicht aus. Modelle können ihre tatsächlichen Entscheidungswege bislang nicht verlässlich offenlegen. Jede bedeutsame Aktion soll deshalb eine manipulationssichere und für Menschen lesbare Spur hinterlassen.
Weitere Forderungen betreffen unabhängige Prüfungen, kontinuierliche Tests von Fehlern und Angriffen sowie eine schnelle Offenlegung von Vorfällen. Kein einzelnes Modell soll allein über ein wichtiges Ergebnis entscheiden oder seine eigene Arbeit kontrollieren. Für fortgeschrittenere Modelle brauche die Branche stärkere Verfahren zur Eindämmung und gemeinsame Standards.
