Code von AI-Agenten prüfen: Review-Pipeline mit Pflicht-Gates

TL;DR

Code von KI-Agenten durchläuft dieselbe Pipeline wie menschlicher Code, plus vier Pflicht-Gates, die nicht verhandelbar sind: statische Analyse, Dependency- und CVE-Scan gegen die geprüfte Registry, Secret-Scan und ein automatisches KI-Erstreview, das dem menschlichen Reviewer die Änderung zusammenfasst. Erst die menschliche Freigabe öffnet den Weg in Produktion.

Warum Agenten-Code ein eigenes Gate braucht

Das Risiko ist nicht schlechter Code, sondern ungeprüfter Code in Menge. Agenten schlagen Dependencies vor, die es nicht gibt oder die kompromittiert sind, übernehmen Beispiele mit hart codierten Schlüsseln und erzeugen Änderungen, die niemand Zeile für Zeile gelesen hat. Alle drei Muster fängt eine Pipeline, kein Appell an Sorgfalt.

Die Gates in Reihenfolge

Erstens der Secret-Scan auf dem Diff: Schlüssel, Connection Strings und Tokens blockieren den Merge, bevor sie im Repo landen. Zweitens der Dependency-Check: Neue Packages müssen aus der zentralen, geprüften Registry kommen und frei von bekannten CVEs über Ihrer Schwelle sein. Drittens die statische Analyse mit denselben Regeln wie für menschliche Änderungen, ergänzt um Lizenz-Check. Viertens das automatische KI-Review als erste Stufe: Es beschreibt, was die Änderung tut, wo sie von den Architektur-Policies abweicht und welche Tests fehlen. Es ersetzt kein Review, es macht das menschliche Review schneller und ehrlicher. Fünftens die Freigabe durch einen Menschen mit Schreibrecht. Kein Agent merged selbst in geschützte Branches, diese Regel wird über Branch Protection technisch erzwungen.

Architektur-Policies als Code

Ihre Entwicklungs-Policies gehören in die Pipeline, nicht in ein Wiki: keine direkten Datenbank-Zugriffe aus Frontend-Containern, Secrets nur über die Plattform, ausgehender Verkehr nur nach Allowlist, Pflicht-Header und Authentifizierung für interne Apps. Policy-Engines wie OPA oder Kyverno prüfen das bei Admission und Deployment. Verstoß heißt Deployment blockiert, mit verständlicher Meldung an den Ersteller, ob Mensch oder Agent.

Betrieb und Einordnung

Die Pipeline ist Teil der Plattform, nicht Projekt der einzelnen Teams. Wie sie mit Runtime, Gateway und Monitoring zusammenhängt, zeigt die Übersicht zur AI-Agenten-Plattform auf Kubernetes. Im Alltag zählt eine Kennzahl: der Anteil Agenten-Änderungen, die ein Gate beim ersten Lauf nicht bestehen. Er zeigt, wo Templates und Golden Paths besser werden müssen.

Fazit

Agenten dürfen schnell schreiben, wenn die Pipeline langsam prüft. Secret-Scan, CVE-Gate, statische Analyse, KI-Erstreview und menschliche Freigabe machen aus unüberschaubarer Agenten-Produktion einen normalen, auditierbaren Entwicklungsprozess.