Slopsquatting: Wie KI die Tür für Hacker offen lässt

Gefährliche Fantasie-Bibliotheken in KI-generiertem Code bedrohen die Sicherheit der Softwarewelt – und niemand merkt es?

Flux Schnell | All-AI.de

KI-Modelle wie ChatGPT haben die Programmierwelt im Sturm erobert. Sie liefern in Sekunden Code-Snippets, die früher Stunden kosteten – ein Effizienzsprung, der begeistert. Doch unter der Oberfläche lauert eine neue Gefahr: „Slopsquatting“. Ein Angriffsszenario, das auf halluzinierte Paketnamen basiert – also Bibliotheken, die gar nicht existieren, aber von der KI erfunden und leichtgläubig übernommen werden. Wie groß ist das Risiko, und was können Entwickler tun, um ihre Projekte zu schützen?

Halluzination als Einfallstor

Der Begriff „Slopsquatting“ stammt vom Sicherheitsexperten Seth Larson und beschreibt eine perfide Masche. KI-Modelle wie ChatGPT oder CodeLlama erfinden in ihren Antworten regelmäßig Bibliotheken, die gar nicht existieren. Diese „Halluzinationen“ klingen oft plausibel – so plausibel, dass Entwickler sie unhinterfragt übernehmen.

Angreifer nutzen genau das aus: Sie registrieren die ausgedachten Paketnamen in öffentlichen Repositorien wie PyPI oder npm, platzieren darin Schadcode – und warten, bis jemand das Paket installiert. Das Resultat: kompromittierte Software, mit nur einem Befehl aus der Kommandozeile.

Eine aktuelle Analyse von über einer halben Million Code-Snippets zeigte: Rund 20 Prozent enthielten fehlerhafte oder erfundene Paketnamen. Selbst GPT-4 lag in etwa 5 Prozent der Fälle daneben – Open-Source-Modelle waren noch anfälliger.

Vorhersehbare Muster, gefährliche Konsequenzen

Das eigentliche Problem: Die halluzinierten Namen folgen oft wiederkehrenden Mustern. 58 Prozent der erfundenen Pakete tauchten mehrfach bei ähnlichen Prompts auf – ein gefundenes Fressen für Angreifer, die gezielt nach diesen Mustern suchen.

Einige Namen ähnelten existierenden Bibliotheken, andere enthielten klassische Tippfehler, und ein Teil war komplett frei erfunden. Doch alle haben eines gemeinsam: Sie bieten einen kaum erkennbaren Angriffsvektor in der Software-Lieferkette – und machen aus KI-Code ein Sicherheitsrisiko.

Sicherheitsstrategien für den KI-Alltag

Um sich zu schützen, reicht ein gesundes Maß an Skepsis nicht aus. Sicherheitsforscher empfehlen konkrete Maßnahmen: Paketnamen sollten grundsätzlich verifiziert, Versionen fixiert und Hash-Prüfungen durchgeführt werden.

Besonders wichtig ist das Testen in isolierten Umgebungen – bevor der Code produktiv geht. Und auch an der KI selbst kann geschraubt werden: Eine niedrigere „Temperatur“ bei der Code-Generierung verringert die Wahrscheinlichkeit kreativer – und damit fehlerhafter – Ausgaben.