KI-Agenten, die denselben Fehler immer wieder machen, kosten Entwickler Zeit und Nerven. Das Softwareunternehmen Warp hat deshalb eine Methode entwickelt, mit der KI-Agenten dauerhaft aus menschlichem Feedback lernen.
Durch ein neues System auf Basis von 2 Skills passen die Agenten ihr Wissen selbstständig an, statt dieselben Fehler bei der Code-Prüfung zu wiederholen.
Wenn der Code-Prüfer nervt
KI-Agenten sollen bei der Softwareentwicklung wiederkehrende Aufgaben abnehmen. Wenn ein solcher Agent eine Aufgabe jedoch nur zu 80 Prozent richtig ausführt, entsteht für die Entwickler oft Mehrarbeit.
Das Team von Warp, dessen KI-Terminal monatlich von rund 800.000 Menschen genutzt wird, beobachtete dieses Problem beim eigenen Agenten für Code-Reviews. Er lieferte den Programmierern häufig unbrauchbare Kommentare.
Die Entwickler versuchten zunächst, die System-Prompts nach jedem Fehler manuell umzuschreiben. Das funktionierte, ließ sich aber bei wachsender Nutzung nicht mehr aufrechterhalten.
Die Analyse des Teams zeigte schnell die eigentliche Ursache: Das Wissen des Agenten war flüchtig. Jegliches Feedback, das ein Programmierer dem Agenten direkt gab, war nach dem Ende der jeweiligen Sitzung einfach weg.
Anzeige
Wissen in Textdateien sichern
Um die Rückmeldungen zu speichern, nutzt das Unternehmen nun sogenannte Skills. Das sind textbasierte Dateien, in denen das spezifische Wissen des Agenten ausgelagert wird, anstatt es direkt in seinen System-Prompt zu schreiben. Warp hat dafür eine Architektur aus zwei verschiedenen Skills gebaut.
Der Basis-Skill enthält die reinen Fachkenntnisse und Arbeitsanweisungen. Mit diesem Skill führt der Code-Agent seine täglichen Reviews aus.
Das menschliche Feedback zu seiner Arbeit fließt im Anschluss in den zweiten Teil des Systems, also einem anderen Skill.
»Ein Mensch könnte einfach bestätigen: Das war ein guter, nützlicher Kommentar«, erklärt Warp-Gründer Zach Lloyd. Er kann dem Agenten aber auch im Detail erklären, warum eine Namenskonvention in einem speziellen Fall nicht passt.
Quelle: Anthropic
Der Agent als Beobachter
Diese Details verarbeitet der zweite Skill, der als Beobachter fungiert. Dieser Agent läuft nach einem festen Zeitplan unsichtbar im Hintergrund. Er sammelt das Feedback der Nutzer ein, vergleicht es mit der ursprünglichen Ausgabe des Code-Agenten und formuliert daraus eine konkrete Änderung für den Basis-Skill.
Da diese Skills einfache Textdateien sind, können sie den regulären Code-Review-Prozess von GitHub durchlaufen. Der Beobachter-Agent erstellt aus seiner Erkenntnis einen Pull Request mit der vorgeschlagenen Anpassung. Ein menschlicher Entwickler prüft die Änderung und gibt sie frei.
Sobald die Datei zusammengeführt ist, greift der Basis-Skill beim nächsten Durchlauf automatisch auf das neue Wissen zu. Warp setzt diesen Kreislauf mittlerweile im gesamten Open-Source-Repository ein.
Dort arbeiten Agenten für das Schreiben von Spezifikationen, für Code-Reviews und für die Fehlersortierung jeweils mit ihrem eigenen Verbesserungskreislauf.
Anstelle manueller Anpassungen kann man mit diesem Prinzip ganz einfach Feedback zu einer Aufgabe geben. Dadurch wird der Haupt-Skill automatisch immer besser und entspricht am Ende sehr genau den eigenen Vorstellungen.
