Bekannter Hacker warnt vor KI beim Programmieren
George Hotz sieht in KI-Agenten ein großes Risiko. Fehlerhafter Code bedroht bald große Konzerne wie Apple.
Der bekannte Hacker George Hotz schlägt Alarm wegen des zunehmenden Einsatzes von KI-Agenten in der Softwareentwicklung. Die Modelle generieren zwar enorm schnell Code, produzieren dabei aber schwer auffindbare Fehler. Tech-Konzerne riskieren dadurch einen drastischen Qualitätsverlust.
Der trügerische schnelle Fortschritt
Hotz hat in den vergangenen sechs Monaten intensiv verschiedene KI-Modelle und Prompts für eigene Projekte getestet. Sein Fazit fällt ernüchternd aus. Die KI-Modelle liefern zunächst rasante Ergebnisse und eignen sich hervorragend für erste Prototypen.
Beim entscheidenden Feinschliff versagen die Modelle jedoch. Hotz vergleicht die Arbeit mit der KI mit einem Spielautomaten, bei dem der Entwickler immer wieder auf ein funktionierendes Endergebnis hofft. Er ist überzeugt, dass er die Aufgaben manuell letztendlich schneller und besser gelöst hätte.
Anzeige
Gefahr für große Entwicklerteams
Das Hauptproblem liegt laut Hotz in der statistischen Natur der KI-Modelle. Sie ahmen lediglich die Verteilung von Programmcode nach, ohne ein echtes Verständnis für die zugrunde liegende Logik zu besitzen. Dadurch entstehen Fehler, die auf den ersten Blick richtig aussehen, aber mit der Zeit immer schwerer zu erkennen sind.
Besonders für große Organisationen sieht Hotz darin ein erhebliches Risiko. Erfahrene Entwickler prüfen den generierten Code weiterhin Zeile für Zeile auf seine Richtigkeit. Unerfahrene Programmierer handeln in diesem Punkt nachlässiger. Sie nutzen die KI-Modelle gezielt, um ihren Output künstlich zu verzehnfachen, ohne die Ergebnisse kritisch zu hinterfragen.
Wachsende Berge an unbrauchbarem Code
Durch diese Dynamik entsteht in großen Unternehmen eine Flut an qualitativ schlechtem Code. Hotz befürchtet eine Ära von übermäßig produzierter, fehlerhafter Software. Als prominentes Beispiel nennt er Apple.
Der Konzern fordert seine Ingenieure aktuell stark zur Nutzung von KI-Modellen auf. Hotz stellt daher die Frage in den Raum, ob das Betriebssystem macOS durch diese Entwicklung in den nächsten zwei Jahren besser oder schlechter wird.
Für die Zukunft sieht der Entwickler einen klaren Bedarf an neuen Architekturen. Echte Programmier-KI-Modelle benötigen ein tiefes Verständnis für Logik und dürfen nicht nur bekannte Muster kopieren. Am Ende zieht der Hacker ein nüchternes Fazit: »Die wahre Geschichte dieser Ära wird sein, wer es schafft, sich in seiner KI-Psychose nicht selbst zu schaden.«
