AIInnovationTechnologyDevOps & Infrastructure

Agentisches Programmieren in Produktion: Wo wir die KI fahren lassen und wo sie anhält

Ein KI-Agent kann eine Aufgabe nehmen, den Code schreiben, die Tests ausführen und die Änderung zur Prüfung vorlegen, ganz allein. Die Frage ist nicht mehr, ob man das erlaubt. Die Frage ist, wo er anhalten muss. Zwei Listen, die Mechanismen, die die Stopps wirksam machen, und wie das auf einer Pipeline aussieht, die wir jeden Tag betreiben.

Foto: Google Gemini · AI-generated

Ein KI-Agent kann heute eine Aufgabe nehmen, den Code schreiben, die Tests ausführen und die Änderung zur Prüfung vorlegen, ganz allein. Die Frage ist nicht mehr, ob man das erlaubt. Die Frage ist, wo der Agent anhalten muss.

Wir arbeiten jeden Tag mit Agenten, an Kundensystemen und an unseren eigenen. Hier ist die Linie, die wir ziehen, und wie wir dafür sorgen, dass sie hält.

Zwei Listen, kein Regler

Wir haben keine „Vertrauensstufe“, die mit jedem besseren Werkzeug ein Stück nach oben rutscht. Wir führen zwei Listen.

Der Agent fährt ohne zu fragen, wenn er auf einem eigenen Branch arbeitet, Code zu einer schriftlichen Aufgabe entwirft, Tests schreibt und ausführt, innerhalb eines Moduls umbaut, eine Datenbankmigration vorschlägt, Dokumentation schreibt oder Protokolle liest, um einen Fehler einzugrenzen. All das ist umkehrbar. Ist es falsch, lehnt ein Mensch die Änderung ab, und nichts ist passiert.

Der Agent hält an und wartet auf einen Menschen vor allem, was nicht umkehrbar ist: dem Zusammenführen in den Hauptzweig, dem Zugriff auf Produktionsdaten oder ein Produktionssystem, dem Umgang mit Geheimnissen und Zugangsdaten, dem Hinzufügen einer Abhängigkeit, dem Ändern einer Schnittstelle, von der andere Systeme abhängen, und jeder Wirkung außerhalb des Repositorys, also Senden, Veröffentlichen, Bezahlen oder Löschen. Architekturentscheidungen stehen ebenfalls auf dieser Liste. Der Agent darf für eine argumentieren. Er trifft keine.

Eine Regel ist ein Wunsch. Ein Kontrollpunkt ist ein Mechanismus.

„Der Agent darf die Produktion nicht anfassen“ in eine Richtlinie zu schreiben, ändert nichts. Der Stopp muss in den Weg eingebaut sein.

Also erreichen die Zugangsdaten des Agenten die Produktion gar nicht erst. Verboten, solange nicht erlaubt, dieselbe Regel wie für jedes Dienstkonto. Das Zusammenführen verlangt eine menschliche Prüfung und eine grüne Pipeline, und die Pipeline führt zuerst die mechanischen Prüfungen aus, damit der Mensch Urteilsvermögen prüft und nicht Formatierung. Geheimnisse werden beim Deployment eingespielt und existieren in der Umgebung des Agenten nie. Und jede Aktion hinterlässt eine Spur: Commits, Pipeline-Läufe, wer wann was freigegeben hat. Der Prüfpfad, den wir für ein Etikettiersystem in der Medizintechnik bauen, ist dieselbe Idee, angewandt auf eine Maschine.

Wie das auf einer Pipeline aussieht, die wir jeden Tag betreiben

Diese Website und unsere LinkedIn-Beiträge entstehen mit einem Agenten. Er wählt das Thema, schreibt beide Sprachfassungen, erzeugt das Bild, baut die Website, prüft jeden internen Link, committet, veröffentlicht und postet. Drei Stopps sind in diesen Weg eingebaut.

Erstens lassen mechanische Prüfer den Lauf scheitern, bevor irgendetwas ausgeliefert wird. Einer geht durch die gebaute Website und weist jeden Link und jedes Bild zurück, das nicht auflöst. Ein anderer weist einen Social-Media-Beitrag zurück, der eine Formatregel bricht, dem der Alternativtext fehlt oder der eine persönliche Erfahrung in der falschen Stimme behauptet.

Zweitens wird ein Video nie gepostet, bevor ein Mensch es gesehen und geantwortet hat. Der Agent erzeugt es, stellt es zur Prüfung bereit, schickt eine Benachrichtigung und hält an. Zweimal in diesem Monat hat er einen Clip produziert, den wir abgelehnt haben; beide Male hat ihn zuerst ein Mensch gesehen.

Drittens liegen die Schlüssel, die er braucht, in der Umgebung und nicht im Repository, und das Teilen über ein persönliches Profil ist gar nicht automatisiert. Eine Empfehlung, die eine Automatisierung ausspricht, ist keine Empfehlung.

Das Ergebnis nach zwei Monaten: Dutzende Veröffentlichungen ohne Vorfall, und die menschliche Zeit fließt in die Teile, die Urteilsvermögen brauchen.

Wie das in Kundenprojekten aussieht

Die Form ist dieselbe. Die Änderung eines Agenten ist ein Branch. Sie geht durch Entwicklung, QA, Test und Live wie jede andere Änderung, so wie jede Änderung am Einkaufsportal eines Maschinenbauers. Ein Mensch führt zusammen. Der Abhängigkeits-Scan lässt den Build scheitern, wenn der Agent etwas mit einer Sicherheitswarnung hereingeholt hat. Der Agent hält nie Zugangsdaten für die Produktion.

Der Kunde sieht dieselbe Pipeline, egal ob ein Mensch oder ein Agent die Änderung geschrieben hat. Genau darum geht es. Die Leitplanken gehören dem Auslieferungsweg, nicht dem Werkzeug, und müssen deshalb nicht neu verhandelt werden, sobald das Werkzeug besser wird.

Wo sich die Linie bewegt und wo nicht

Die erste Liste wird weiter wachsen. Je besser Tests und Prüfungen werden, desto mehr Arbeit wird sicher umkehrbar, und der Agent kann sie übernehmen. Die zweite Liste schrumpft nicht. Produktion, Geheimnisse, Wirkungen nach außen und Architektur bleiben bei einem Menschen, weil der Preis eines Fehlers dort kein abgelehnter Pull Request ist.

Wenn Sie Agenten in ein Team einführen und der Plan ein Richtliniendokument ist, fangen Sie stattdessen bei der Pipeline an. Lesen Sie, wie wir einen einzigen Weg in die Produktion bauen und wie Tests in der Auslieferung sitzen, oder sprechen Sie mit uns darüber, wo Ihre Linie verlaufen sollte.