Regelkreis-Denken für KI-Agenten
Ein KI-Agent meldet „fertig“, sobald er die Prüfungen besteht, die er kennt. Ob seine Arbeit stimmt, ist damit noch offen. Als Mechatronik-Ingenieur kenne ich für diese Lage ein Werkzeug aus der Regelungstechnik: den . Ich nutze ihn als Denkmodell für Agentenarbeit. Für jeden Ablauf frage ich, was dort Sollwert, Messung, Vergleich und Stellglied ist und welches Glied fehlt.
Zuletzt aktualisiert: · ein Projekt von Dominic Meiser
Steuern, beobachten oder regeln
Für die Einordnung reichen vier Teile eines Regelkreises. Die oder der Sollwert legt fest, wohin es gehen soll. Das stellt fest, wo man steht. Der Vergleich bildet die Abweichung, und über das ändert sich daraufhin etwas an der Arbeit. Dazwischen entscheidet der Regler, wie stark reagiert wird, und was geregelt wird, heißt Regelstrecke, hier die Arbeit des Agenten. Drei Fragen genügen für die Einordnung. Wird eine Größe laufend erfasst? Wird sie mit einem Sollwert verglichen? Ändert die Abweichung etwas, das auf dieselbe Größe zurückwirkt? Erst wenn alle drei mit Ja beantwortet sind, wird geregelt. Sonst wird gesteuert oder nur beobachtet. Ein Dashboard, das niemand mit einem Ziel vergleicht, ist Beobachtung. Ein Alarm, aus dem nichts folgt, schließt den Kreis ebenfalls nicht.
Was bei Agenten welches Glied ist
- Führungsgröße:
- prüfbare , also Bedingungen, die das Ergebnis erfüllen muss. Jedes Kriterium hat einen Prüfbefehl und einen erwarteten Wert. Darüber liegen Zielsatz und Spezifikation. Den Sollwert setzt der Mensch, und er bekommt ein Datum, damit ein neues Ziel nicht wie eine Störung aussieht.
- Messglied:
- Tests und Prüfbefehle, ein Abnahmeskript, ein zweites Modell, das unabhängig gegenliest, ein Modell als Richter, das vorher an Fällen mit bekannter Antwort geeicht wurde, und der Mensch.
- Regler:
- eine Entscheidungsregel, die vor dem Lauf feststeht, etwa weiter, einmal nachbessern oder stoppen. Regler und Stellglied sind zwei Entscheidungen. Die eine legt fest, wie stark reagiert wird, die andere, womit eingegriffen wird.
- Stellglied:
- ein Nachbesserungsauftrag, ein Stopp, eine Merge-Sperre oder ein Deckel für Runden und Zeilen. Ein fester Hinweis im Prompt, der nicht aus einer Messung folgt, ist Steuerung. Ein Nachbesserungsauftrag aus einer gemessenen Abweichung schließt den Kreis, wirkt aber wie jeder Prompt nur, wenn der Agent mitspielt. Eine Sperre außerhalb des Modells wirkt auch dann.
- :
- ein missverstandener Auftrag, ein volles Kontextfenster, ein Modellwechsel, parallele Sitzungen am selben Bestand.
- :
- Ein Plan rechnet aus dem Ziel einen Weg vor, ohne auf eine Abweichung zu warten. Der Kreis daneben fängt auf, was der Plan nicht vorhersah.
Sollwerte vorgeben und mit Istwerten abgleichen
Ein Sollwert muss sich prüfen lassen, und er steht fest, bevor der Agent startet. Wer die Kriterien während der Arbeit anpasst, misst am Ende sich selbst. Eine Änderung heißt deshalb neuer Lauf. Beim Abgleich hilft eine Messkette: Aufwand, Ausstoß, Ergebnis, Wirkung. „Alle Tests grün“ ist Ausstoß. Ob das Ergebnis den Auftrag erfüllt und ob es dem Ziel näherbringt, zeigt sich erst weiter rechts in dieser Kette und später. Dazu gehört eine alte Erfahrung, bekannt als Goodharts Gesetz: Wer das Maß schreibt, an dem er gemessen wird, optimiert das Maß. Der Agent schreibt deshalb nicht die Prüfung, die ihn abnimmt. Auch die Prüfung selbst prüfe ich, indem ich ein Ergebnis absichtlich so verändere, dass es eine Anforderung verletzt, die sie abdecken soll. Bleibt die Prüfung dann grün, erkennt sie genau diesen Fehler nicht.
Die Kaskade bei Agenten
Agentenarbeit besteht aus Kreisen, die ineinanderliegen. Die Richtung über Wochen setzt den Auftrag, der Auftrag die Meilensteine, der Meilenstein den einzelnen Arbeitsschritt. Die äußere Ebene greift dabei in den Sollwert der inneren ein, nicht in deren Arbeit. Innen muss es deutlich schneller gehen als außen, sonst arbeiten die Kreise gegeneinander. Je weiter außen gemessen wird, desto näher liegt die Messung an der Wirkung und desto später zeigt sich ein Fehler. Die Verzögerung, bis ein Eingriff überhaupt in der Messung ankommt, heißt in der Regelungstechnik ; außen ist sie meist länger. Jede Zerlegung braucht eine Prüfung nach unten und eine nach oben, und zwar am echten Ergebnis, nicht an der Summe der Teilmeldungen. Schlägt innen ein Deckel an, muss die Ebene darüber das erfahren.
Sicher eingreifen
Ein Stellglied muss auch dann sicher bleiben, wenn die Messung ausfällt. Eine Sperre öffnet sich bei einem Messausfall nicht von selbst, und ein Zustand, den der gemessene Agent unlesbar machen kann, gilt als gesperrt. Der Mensch bleibt letzte Instanz: Er setzt Sollwerte, gibt Schwer-Umkehrbares frei und setzt Sperren zurück. Damit das ihn nicht zum Engpass macht, bekommt er ein Blatt mit dem Stand statt einer Flut von Meldungen und einen festen Takt.
So wende ich es an
Meine Aufträge mit offenem Ausgang laufen seit November als kleiner Regelkreis. Am 8. November waren nach dem ersten Lauf alle sechs Kriterien eines Auftrags grün. Das zweite Modell fand trotzdem einen Fehler, den die Kriterien nicht erfassten: Ein Wert, den man nach dem Laden des Moduls setzte, blieb ohne Wirkung. Nach einer Nachbesserung bestanden alle Prüfungen, auch eine neue für genau diesen Fall. Erst dann wurde zusammengeführt. In Lab 2 läuft derselbe innere Kreis automatisch als Graph in LangGraph: Akzeptanztests von einem eigenen Agenten, ein Testlauf und vier Prüfer als Messglied, eine begrenzte Fix-Schleife als Stellglied. Ist die Grenze erreicht, entscheide ich.
Was offen ist
Ob ein voller Vertrag mit Kriterien wirklich Nacharbeit spart, will ich mit Paaren gleichartiger Aufträge messen. Seit dem 9. November sammle ich dafür Aufträge; ein vollständiges Paar und ein Ergebnis gibt es noch nicht. Die Übertragung der Regelungstechnik auf Agenten ist meine eigene Arbeit und keine anerkannte Methode. Die Begriffe stammen aus der Norm DIN IEC 60050-351 und aus der Fachliteratur, darunter Åström und Murray, „Feedback Systems“. Lab 2 arbeitet an einem Übungsprojekt, der Abschluss mit Merge ist dort gerade in Bau. Den Code von Lab 2 habe ich als langgraph-dev-pipeline (öffnet in neuem Tab) auf GitHub veröffentlicht, der Code meiner eigenen Regelkreise ist nicht öffentlich.
Weiterlesen
- Startseite
Die drei Bausteine Wissen mit Quelle, Gedächtnis, Prüfung und Freigabe
- Master-Thesis
Prüfdisziplin an Messdaten: verschlossene Testdaten, Validierung nach Proben
- Agenten-Gedächtnis
Wie Learnings und Entscheidungen zwischen Sitzungen erhalten bleiben