Nvidia gründet große Allianz für mehr KI Sicherheit
Der Chiphersteller wehrt sich gegen geschlossene Modelle. Ein Hackerangriff bei Hugging Face war der Auslöser.
Nvidia hat gemeinsam mit Unternehmen wie Microsoft, IBM und Hugging Face die »Open Secure AI Alliance« ins Leben gerufen. Das Bündnis will quelloffene Sicherheitslösungen für die gesamte KI-Infrastruktur bereitstellen. Offene Modelle sollen künftig nicht mehr als Risiko, sondern als entscheidender Baustein für die Cyberabwehr gelten.
Lehren aus dem Hugging-Face-Hack
Den Anstoß für die Allianz lieferte ein konkreter Sicherheitsvorfall. Nvidia-Chef Jensen Huang nannte als Begründung einen kürzlichen Hackerangriff auf Hugging Face. Dort blockierten geschlossene KI-Systeme die forensische Aufarbeitung, da sie nicht zwischen Angreifern und Verteidigern unterscheiden konnten.
Hugging Face musste den Vorfall auf der eigenen Infrastruktur untersuchen. Das Team nutzte dafür das offene Modell GLM 5.2. Es analysierte damit über 17.000 Aktionen und dämmte den Einbruch ein. Laut Huang beweist dies, dass Unternehmen bei Cyberangriffen die volle Kontrolle über ihre Abwehrwerkzeuge benötigen.
Werkzeuge für den kompletten KI-Stack
Die beteiligten Unternehmen wollen die komplette KI-Infrastruktur absichern. Dazu gehören neben Sprachmodellen auch Agentensysteme, Datensätze und die Zugriffsverwaltung. Die Ergebnisse sollen der Allgemeinheit als Open-Source-Projekte zur Verfügung stehen.
Mehrere Mitglieder steuern bereits konkrete Technologien bei. Nvidia veröffentlicht das Framework »NVIDIA Labs Object-Oriented Agent« auf GitHub. Es soll dabei helfen, das Verhalten von KI-Agenten besser zu testen und zu steuern.
SpaceX öffnet seinen Programmier-Agenten Grok Build. Microsoft und HPE bringen eigene Testwerkzeuge und Identitätsstandards ein, mit denen sich etwa KI-Agenten verifizieren oder Sicherheitslücken aufspüren lassen.
Anzeige
Appell an die Politik
Nvidia warnt Regulierungsbehörden zudem davor, offene KI-Modelle pauschal einzuschränken. Ein Verbot würde die Abwehrfähigkeiten schwächen und die Sicherheit in die Hände weniger, geschlossener Anbieter legen. Stattdessen fordert das Bündnis Investitionen in eine geteilte, offene Infrastruktur zur KI-Verteidigung.
