Regelkreis-Denken für KI-Agenten

Ein KI-Agent meldet „fertig“, sobald er die Prüfungen besteht, die er kennt. Ob seine Arbeit stimmt, ist damit noch offen. Als Mechatronik-Ingenieur kenne ich für diese Lage ein Werkzeug aus der Regelungstechnik: den . Ich nutze ihn als Denkmodell für Agentenarbeit. Für jeden Ablauf frage ich, was dort Sollwert, Messung, Vergleich und Stellglied ist und welches Glied fehlt.

Zuletzt aktualisiert: · ein Projekt von Dominic Meiser

Steuern, beobachten oder regeln

Für die Einordnung reichen vier Teile eines Regelkreises. Die oder der Sollwert legt fest, wohin es gehen soll. Das stellt fest, wo man steht. Der Vergleich bildet die Abweichung, und über das ändert sich daraufhin etwas an der Arbeit. Dazwischen entscheidet der Regler, wie stark reagiert wird, und was geregelt wird, heißt Regelstrecke, hier die Arbeit des Agenten. Drei Fragen genügen für die Einordnung. Wird eine Größe laufend erfasst? Wird sie mit einem Sollwert verglichen? Ändert die Abweichung etwas, das auf dieselbe Größe zurückwirkt? Erst wenn alle drei mit Ja beantwortet sind, wird geregelt. Sonst wird gesteuert oder nur beobachtet. Ein Dashboard, das niemand mit einem Ziel vergleicht, ist Beobachtung. Ein Alarm, aus dem nichts folgt, schließt den Kreis ebenfalls nicht.

Was bei Agenten welches Glied ist

Ein Regelkreis für die Arbeit von KI-Agenten Wirkungsplan in Anlehnung an DIN IEC 60050-351, übertragen auf Agentenarbeit. Führungsgröße: Akzeptanzkriterien mit Prüfbefehl und erwartetem Wert, vor dem Lauf eingefroren, gesetzt vom Menschen. Vergleich: Sollwert minus Istwert, also rote Kriterien und offene Befunde. Regler: eine vorab festgelegte Entscheidungsregel, weiter, einmal nachbessern oder stoppen. Stellglied: Nachbesserungsauftrag, Stopp, Merge-Sperre, Deckel für Runden und Zeilen; ein Hinweis im Prompt wirkt nur, wenn der Agent mitspielt. Regelstrecke: die Arbeit des Agenten im eigenen Arbeitsbereich. Störgrößen: Missverständnis, volles Kontextfenster, Modellwechsel, parallele Sitzungen. Messglied: Tests und Prüfbefehle, Abnahmeskript, ein zweites Modell als Zweitlesung, ein Modell als Richter mit Eichfällen, der Mensch. Vorsteuerung: Der Plan rechnet aus dem Ziel einen Weg vor, der Kreis fängt auf, was der Plan nicht vorhersah. Führungsgröße wohin soll es gehen? Akzeptanzkriterien, je mit Prüfbefehl und erwartetem Wert, vor dem Lauf eingefroren setzt der Mensch; auch Zielsatz, Spec + − Abweichung: rote Kriterien, offene Befunde Regler wie stark reagieren? Entscheidungsregel, vorab festgelegt: weiter, einmal nachbessern oder stoppen auch: Schwelle mit Hysterese, der Mensch nach einem Ergebnisblatt Stellglied womit eingreifen? Nachbesserungsauftrag, Stopp, Merge-Sperre, Deckel für Runden und Zeilen Ein Hinweis im Prompt wirkt nur, wenn der Agent mitspielt. Regelstrecke was wird geregelt? die Arbeit des Agenten: Code, Text, Daten im eigenen Arbeitsbereich Störgrößen von außen Missverständnis, volles Kontextfenster, Modellwechsel, parallele Sitzungen Vorsteuerung der Plan rechnet aus dem Ziel einen Weg vor; der Kreis fängt auf, was der Plan nicht vorhersah Messglied wo stehen wir? Tests und Prüfbefehle, Abnahmeskript, zweites Modell liest unabhängig gegen, Modell als Richter mit Eichfällen, der Mensch Wer das Maß schreibt, an dem er gemessen wird, optimiert das Maß. Istwert: der gelieferte Stand setzt oder entscheidet der Mensch Messung und Rückführung offene Kette, kein Kreis Vergleich: Soll minus Ist
Führungsgröße:
prüfbare , also Bedingungen, die das Ergebnis erfüllen muss. Jedes Kriterium hat einen Prüfbefehl und einen erwarteten Wert. Darüber liegen Zielsatz und Spezifikation. Den Sollwert setzt der Mensch, und er bekommt ein Datum, damit ein neues Ziel nicht wie eine Störung aussieht.
Messglied:
Tests und Prüfbefehle, ein Abnahmeskript, ein zweites Modell, das unabhängig gegenliest, ein Modell als Richter, das vorher an Fällen mit bekannter Antwort geeicht wurde, und der Mensch.
Regler:
eine Entscheidungsregel, die vor dem Lauf feststeht, etwa weiter, einmal nachbessern oder stoppen. Regler und Stellglied sind zwei Entscheidungen. Die eine legt fest, wie stark reagiert wird, die andere, womit eingegriffen wird.
Stellglied:
ein Nachbesserungsauftrag, ein Stopp, eine Merge-Sperre oder ein Deckel für Runden und Zeilen. Ein fester Hinweis im Prompt, der nicht aus einer Messung folgt, ist Steuerung. Ein Nachbesserungsauftrag aus einer gemessenen Abweichung schließt den Kreis, wirkt aber wie jeder Prompt nur, wenn der Agent mitspielt. Eine Sperre außerhalb des Modells wirkt auch dann.
:
ein missverstandener Auftrag, ein volles Kontextfenster, ein Modellwechsel, parallele Sitzungen am selben Bestand.
:
Ein Plan rechnet aus dem Ziel einen Weg vor, ohne auf eine Abweichung zu warten. Der Kreis daneben fängt auf, was der Plan nicht vorhersah.

Sollwerte vorgeben und mit Istwerten abgleichen

Ein Sollwert muss sich prüfen lassen, und er steht fest, bevor der Agent startet. Wer die Kriterien während der Arbeit anpasst, misst am Ende sich selbst. Eine Änderung heißt deshalb neuer Lauf. Beim Abgleich hilft eine Messkette: Aufwand, Ausstoß, Ergebnis, Wirkung. „Alle Tests grün“ ist Ausstoß. Ob das Ergebnis den Auftrag erfüllt und ob es dem Ziel näherbringt, zeigt sich erst weiter rechts in dieser Kette und später. Dazu gehört eine alte Erfahrung, bekannt als Goodharts Gesetz: Wer das Maß schreibt, an dem er gemessen wird, optimiert das Maß. Der Agent schreibt deshalb nicht die Prüfung, die ihn abnimmt. Auch die Prüfung selbst prüfe ich, indem ich ein Ergebnis absichtlich so verändere, dass es eine Anforderung verletzt, die sie abdecken soll. Bleibt die Prüfung dann grün, erkennt sie genau diesen Fehler nicht.

Die Kaskade bei Agenten

Die Kaskade bei KI-Agenten: Richtung, Auftrag, Meilenstein, Arbeitsschritt Vier ineinanderliegende Regelkreise. Richtung, Takt Wochen: Sollwert ist das datierte Ziel der Etappe, gemessen wird die Wirkung, der Mensch passt Ziel und Aufträge an. Auftrag, Takt Stunden: Sollwert ist ein Vertrag mit Akzeptanzkriterien, gemessen wird das Ergebnis gegen den Auftrag samt Zweitlesung, der Mensch gibt frei oder beauftragt neu. Meilenstein, Takt Minuten: Sollwert sind Teilkriterien, gemessen wird mit einer Teilabnahme, eingegriffen wird mit einer Nachbesserung oder einem Stopp. Arbeitsschritt, Takt Sekunden: Sollwert ist der nächste Schritt aus dem Plan, gemessen wird mit Tests, Linter und Hooks, der Agent korrigiert selbst oder ein Hook sperrt. Regeln: Außen greift in den Sollwert der inneren Ebene, nicht in die Arbeit. Innen deutlich schneller als außen. Jede Zerlegung braucht eine Prüfung nach unten und nach oben. Schlägt innen ein Deckel an, erfährt es die Ebene darüber. jede Ebene setzt der inneren den Sollwert jede Ebene misst und meldet nach außen Richtung Takt: Wochen Sollwert: Ziel der Etappe, mit Datum Messung: Wirkung, kommt die Arbeit dem Ziel näher? Eingriff: Ziel und Aufträge anpassen, nur der Mensch Auftrag Takt: Stunden Sollwert: Vertrag mit Akzeptanzkriterien Messung: Ergebnis gegen den Auftrag, Zweitlesung Eingriff: freigeben oder neu beauftragen Meilenstein Takt: Minuten Sollwert: Teilkriterien aus dem Vertrag Messung: Teilabnahme je Meilenstein Eingriff: einmal nachbessern oder stoppen Arbeitsschritt Takt: Sekunden Sollwert: nächster Schritt aus dem Plan Messung: Tests, Linter, Hooks Eingriff: Agent korrigiert, Hook sperrt Vier Regeln für die Kaskade Die äußere Ebene greift in den Sollwert der inneren, nicht in deren Arbeit. Innen ist deutlich schneller als außen, sonst arbeiten die Kreise gegeneinander. Jede Zerlegung braucht eine Prüfung nach unten und eine nach oben, am echten Ergebnis statt an Teilmeldungen. Schlägt innen ein Deckel an, erfährt es die Ebene darüber.

Agentenarbeit besteht aus Kreisen, die ineinanderliegen. Die Richtung über Wochen setzt den Auftrag, der Auftrag die Meilensteine, der Meilenstein den einzelnen Arbeitsschritt. Die äußere Ebene greift dabei in den Sollwert der inneren ein, nicht in deren Arbeit. Innen muss es deutlich schneller gehen als außen, sonst arbeiten die Kreise gegeneinander. Je weiter außen gemessen wird, desto näher liegt die Messung an der Wirkung und desto später zeigt sich ein Fehler. Die Verzögerung, bis ein Eingriff überhaupt in der Messung ankommt, heißt in der Regelungstechnik ; außen ist sie meist länger. Jede Zerlegung braucht eine Prüfung nach unten und eine nach oben, und zwar am echten Ergebnis, nicht an der Summe der Teilmeldungen. Schlägt innen ein Deckel an, muss die Ebene darüber das erfahren.

Sicher eingreifen

Ein Stellglied muss auch dann sicher bleiben, wenn die Messung ausfällt. Eine Sperre öffnet sich bei einem Messausfall nicht von selbst, und ein Zustand, den der gemessene Agent unlesbar machen kann, gilt als gesperrt. Der Mensch bleibt letzte Instanz: Er setzt Sollwerte, gibt Schwer-Umkehrbares frei und setzt Sperren zurück. Damit das ihn nicht zum Engpass macht, bekommt er ein Blatt mit dem Stand statt einer Flut von Meldungen und einen festen Takt.

So wende ich es an

Meine Aufträge mit offenem Ausgang laufen seit November als kleiner Regelkreis. Am 8. November waren nach dem ersten Lauf alle sechs Kriterien eines Auftrags grün. Das zweite Modell fand trotzdem einen Fehler, den die Kriterien nicht erfassten: Ein Wert, den man nach dem Laden des Moduls setzte, blieb ohne Wirkung. Nach einer Nachbesserung bestanden alle Prüfungen, auch eine neue für genau diesen Fall. Erst dann wurde zusammengeführt. In Lab 2 läuft derselbe innere Kreis automatisch als Graph in LangGraph: Akzeptanztests von einem eigenen Agenten, ein Testlauf und vier Prüfer als Messglied, eine begrenzte Fix-Schleife als Stellglied. Ist die Grenze erreicht, entscheide ich.

Lab 2 als Regelkreis: die Fix-Schleife im LangGraph-Graphen Lab 2 führt den inneren Regelkreis automatisch als LangGraph-Graph aus. Ich gebe Spec und Plan frei; ein eigener Agent schreibt daraus Akzeptanztests, die der Implementierer nie sieht. Ein Testlauf ohne Sprachmodell und vier parallele Prüfer messen den Stand. Der Befund-Filter löst nur bei roten Tests oder Befunden ab major mit Zitat eine Fix-Runde aus, in der Voreinstellung höchstens zwei; ein major allein vom Clean-Code-Prüfer zählt erst, wenn ein zweiter Prüfer dieselbe Stelle meldet. Ist die Grenze erreicht oder kommt derselbe Befund zweimal, entscheide ich. Ist nichts offen, folgen Gesamtreview, meine Abschluss-Freigabe und ein lokaler Merge; dieser Teil ist seit 13. November 2026 in Bau. Lab 2 arbeitet an einem Übungsrepo. Fix-Schleife, automatisch · Takt: je Runde, Minuten Aufgabe Sollwert Spec und Akzeptanztests von eigenem Agenten; die Tests sieht der Implementierer nie akzeptanz_schreiben Ich gebe den Sollwert frei Spec und Plan freigeben spec_freigabe plan_freigabe + − Regler: Befund-Filter rote Tests oder Befund ab „major“ mit Zitat lösen eine Runde aus befunde_sammeln offen Stellglied Fix-Runde, in der Voreinstellung bis 2 fix_runde Regelstrecke Implementierer-Agent im eigenen Git-Worktree implementieren Messglied Testlauf ohne Sprachmodell, dazu vier Prüfer parallel: Funktion, Security, Clean Code, Codex tests_ausfuehren · pruefen_* Grenze erreicht oder Befund kehrt wieder Eskalation Ich entscheide: weiter, annehmen, abbrechen eskalation eine Runde mehr nichts mehr offen Gesamtreview durch Codex gesamtreview Abschluss-Freigabe ich gebe frei abschluss_freigabe lokaler Merge in Bau seit 13.11.2026 Knotennamen aus dem Code von Lab 2 (LangGraph). Lab 2 arbeitet an einem Übungsrepo, nicht an echten Aufträgen; die Zahl der Fix-Runden ist einstellbar (0 bis 5). Ausnahme im Befund-Filter: Ein „major“ allein vom Clean-Code-Prüfer löst erst aus, wenn ein zweiter Prüfer dieselbe Stelle meldet. Hier entscheide ich Messung und Rückführung in Bau Vergleich: Sollwert minus Messung

Was offen ist

Ob ein voller Vertrag mit Kriterien wirklich Nacharbeit spart, will ich mit Paaren gleichartiger Aufträge messen. Seit dem 9. November sammle ich dafür Aufträge; ein vollständiges Paar und ein Ergebnis gibt es noch nicht. Die Übertragung der Regelungstechnik auf Agenten ist meine eigene Arbeit und keine anerkannte Methode. Die Begriffe stammen aus der Norm DIN IEC 60050-351 und aus der Fachliteratur, darunter Åström und Murray, „Feedback Systems“. Lab 2 arbeitet an einem Übungsprojekt, der Abschluss mit Merge ist dort gerade in Bau. Den Code von Lab 2 habe ich als langgraph-dev-pipeline (öffnet in neuem Tab) auf GitHub veröffentlicht, der Code meiner eigenen Regelkreise ist nicht öffentlich.

Weiterlesen

  • Startseite

    Die drei Bausteine Wissen mit Quelle, Gedächtnis, Prüfung und Freigabe

  • Master-Thesis

    Prüfdisziplin an Messdaten: verschlossene Testdaten, Validierung nach Proben

  • Agenten-Gedächtnis

    Wie Learnings und Entscheidungen zwischen Sitzungen erhalten bleiben