Agenten entwickeln, die nicht endlos in Schleifen laufen

Ein typisches Muster kostspieliger KI-Ausfälle im Produktivbetrieb: Es ist Dienstagmorgen um 3 Uhr und ein Kundensupport-Agent gerät in eine Endlosschleife. Er ruft dasselbe Werkzeug auf, erhält denselben Fehler, versucht es mit einem leicht veränderten Parameter erneut und erhält wieder denselben Fehler. Hunderte Male pro Minute. Am Morgen erwartet das Team eine unerwartete vier- oder fünfstellige Rechnung — abhängig vom Modell und der Aufrufrate.

Das ist kein seltener Fall. Agentenschleifen zählen zu den häufigsten und folgenreichsten Fehlern im Produktivbetrieb. Sie sind heimtückisch, weil sie häufig nach produktiver Arbeit aussehen: Der Agent führt Aktionen aus, und Aufrufe sind erfolgreich oder scheitern auf vorhersehbare Weise. Erst beim Prüfen des Traces wird das sich wiederholende Muster sichtbar.

Agenten so zu entwickeln, dass sie nicht endlos in Schleifen laufen, erfordert bewusste Architekturentscheidungen. Die meisten Agentenfehler sind vorhersehbar, und die Gegenmaßnahmen sind bekannt. Teams, die zuverlässige Agenten bereitstellen, setzen diese Muster konsequent um.

Dieser Artikel erläutert, weshalb Agenten in Schleifen geraten, welche Architekturmuster das verhindern und welche betrieblichen Schutzmechanismen verbleibende Schleifen erkennen.

Warum Agenten in Schleifen geraten

Einige Mechanismen hinter Agentenschleifen:

1. Verwirrung über Fortschritt

Der Agent kann die Frage „Habe ich Fortschritte erzielt?“ nicht klar beantworten. Er probiert etwas aus, beobachtet das Ergebnis und entscheidet sich für einen anderen Versuch. Ohne explizite Fortschrittsverfolgung kann „etwas anderes versuchen“ lediglich bedeuten, dasselbe geringfügig anders zu wiederholen.

2. Fehlende Beendigungskriterien

Der Agenten-Prompt lautet „Helfen Sie dem Nutzer“, aber nicht „Beenden Sie die Aufgabe, sobald X erfüllt ist“. Ohne klare Beendigungskriterien hilft der Agent immer weiter: Er sucht noch eine Information, probiert ein weiteres Werkzeug und verfeinert das Ergebnis erneut.

3. Pathologisches Wiederholen

Wenn etwas fehlschlägt, versuchen Agenten es naturgemäß erneut. Ohne Wiederholungsbudget kann derselbe Fehler unbegrenzt oft wiederholt werden. Der Agent nimmt nur wahr: „Ich war noch nicht erfolgreich“, statt zu erkennen: „Ich habe das bereits zehnmal versucht.“

4. Zustandsamnesie

Das Arbeitsgedächtnis des Agenten umfasst nur die jüngsten Schritte. Nach 20 Schleifendurchläufen sieht er möglicherweise lediglich die letzten fünf im Kontext und verliert so das Muster, das für externe Beobachter offensichtlich ist.

5. Werkzeuginkonsistenz

Ein Werkzeug liefert verwirrende oder widersprüchliche Ergebnisse. Der Agent versucht es erneut. Das Werkzeug liefert weiterhin verwirrende Ergebnisse. Der Agent denkt „Vielleicht war meine vorherige Interpretation falsch“ und versucht es anders. Das Werkzeug liefert weiterhin verwirrende Ergebnisse. Schleife.

6. Übermäßiger Optimismus

Das Training des Agenten fördert Beharrlichkeit — er versucht weiterzumachen, obwohl Aufhören und Nachfragen die bessere Strategie wäre. Das ist besonders bei lang laufenden Aufgaben problematisch, bei denen sich kleine Missverständnisse summieren.

7. Zielverschiebung

Der Agent verliert allmählich sein eigentliches Ziel aus den Augen. Er verzweigt sich in Unteraufgaben und weitere Unteraufgaben, untersucht nur am Rand relevante Themen und kehrt nicht zum Hauptziel zurück.

Verschiedene Agenten scheitern auf unterschiedliche Weise. Die Abwehrmechanismen überschneiden sich.

Muster 1: Hartes Schrittbudget

Die einfachste und wichtigste Schutzmaßnahme ist eine maximale Schrittzahl. Der Agent darf beispielsweise 20 Werkzeugaufrufe ausführen. Danach muss er eine abschließende Antwort erstellen oder den Fall eskalieren.

Implementierung:

def agent_loop(query, max_steps=20):
    messages = [{"role": "user", "content": query}]
    for step in range(max_steps):
        response = call_llm(messages, tools=available_tools)
        if response.is_final_answer:
            return response.content
        result = execute_tool(response.tool_call)
        messages.append(response)
        messages.append({"role": "tool", "content": result})
    # Hit budget — force final answer
    return force_final_answer(messages)

Das Budget sollte zur Aufgabe passen. Einfache Aufgaben: 5–10 Schritte. Komplexe Aufgaben mit mehreren Quellen: 20–30. Offene Recherche: mindestens 50. Es bleibt jedoch immer begrenzt.

Wenn das Budget ausgeschöpft ist, erstellt der Agent anhand seines aktuellen Wissens die bestmögliche Antwort oder eskaliert an einen Menschen.

Dieses einzelne Muster verhindert die meisten katastrophalen Schleifen. Implementieren Sie es immer.

Varianten

Tokenbudget. Begrenzen Sie anstelle der Schrittzahl oder zusätzlich dazu die Gesamtzahl der Tokens. Das schützt vor Agenten, die zwar wenige Schritte ausführen, dabei aber jeweils einen Reasoning-Trace mit 50.000 Tokens erzeugen.

Kostenbudget. Übersetzt Schritt- und Tokenbudgets in Euro und macht Budgetüberschreitungen konkret.

Zeitbudget. Eine Begrenzung der verstrichenen Zeit. Nützlich für nutzerorientierte Abläufe („Antwort innerhalb von 30 Sekunden“).

Die meisten Produktionsagenten haben in irgendeiner Form alle vier Budgets. Das Erreichen eines beliebigen beendet den Lauf.

Muster 2: Fortschrittsverfolgung

Ein Budget allein sagt dem Agenten nicht, dass er feststeckt — es stoppt ihn lediglich irgendwann. Fortschrittsverfolgung hilft ihm, eine Schleife selbst zu erkennen und zu verlassen.

Eine einfache Implementierung: Der Agent führt ein explizites „Fortschritts“-Protokoll. Bei jedem Schritt gibt er an, welche neue Information er gewonnen hat oder was sich geändert hat.

Step 1: Searched for customer "Smith". Found 12 matches.
Step 2: Filtered to active accounts. 4 remain.
Step 3: Checked recent activity. Customer 234 had a recent ticket about pricing.
Step 4: Pulled the ticket details. The complaint was about a recent price change.
Step 5: Drafted response. Ready to send.

Jeder Schritt fügt neue Informationen hinzu. Wenn der Agent Schritt 6 durchläuft und das Fortschrittsprotokoll nichts Neues hinzufügt — gleiche Suche, gleiche Ergebnisse, gleiche Schlussfolgerung — dann dreht er sich im Kreis.

Der Prompt kann enthalten:

Before deciding the next action, summarize what you've learned in the last few steps. If you haven't gained new information in the last 3 steps, stop and either:
- Produce your best answer with current information.
- Escalate the issue: explain what you've tried and what's missing.

Dadurch wird der fehlende Fortschritt für den Agenten sichtbar und er kann darauf reagieren.

Muster 3: Wiederholungserkennung

Manchmal wiederholen Agenten exakt denselben Werkzeugaufruf. Das lässt sich leicht programmatisch erkennen.

def detect_repeat(history):
    recent_calls = [c for c in history[-5:] if c.is_tool_call]
    if len(recent_calls) < 3:
        return False
    call_signatures = [(c.tool, json.dumps(c.args, sort_keys=True)) for c in recent_calls]
    return len(set(call_signatures)) < len(call_signatures) / 2

Greifen Sie ein, sobald eine Wiederholung erkannt wird:

• Fügen Sie eine Nachricht ein: „Sie haben dieses Werkzeug vor Kurzem mit denselben Parametern aufgerufen. Die Ergebnisse haben sich nicht geändert. Versuchen Sie einen anderen Ansatz oder beenden Sie die Aufgabe.“
• Oder erzwingen Sie die Beendigung.

Dies erkennt die offensichtlichsten Schleifen automatisch.

Muster 4: Erkennung blockierter Zustände

Neben exakten Wiederholungen lassen sich auch subtilere festgefahrene Zustände erkennen:

Mustererkennung. Verwenden Sie einen separaten LLM-Aufruf, um zu bewerten: „Macht dieser Agent in den letzten fünf Schritten Fortschritte?“ Falls nicht, brechen Sie ab.

def is_stuck(history):
    recent = format_history(history[-5:])
    response = call_llm(
        system="You are evaluating whether an agent is making progress.",
        user=f"Recent agent steps:\n{recent}\n\nIs the agent making meaningful progress or stuck in a loop? Answer: progressing | stuck."
    )
    return response.content.strip() == "stuck"

Führen Sie diese Prüfung alle paar Schritte aus. Wenn sie „stuck“ zurückgibt, greifen Sie ein.

Werkzeugvielfalt. Wenn der Agent in mindestens fünf Schritten nur ein einziges Werkzeug aufgerufen hat, ist das verdächtig. Zwingen Sie ihn, einen anderen Ansatz zu wählen oder aufzuhören.

Fehlermuster. Wenn dasselbe Werkzeug mindestens dreimal denselben Fehler zurückgibt, sperren Sie seine weitere Verwendung. Weitere Wiederholungen werden dem Agenten die fehlende Eingabe nicht erschließen.

Muster 5: Reflexionspunkte

Erzwingen Sie an bestimmten Punkten des Agentenlaufs eine explizite Reflexion.

After every 5 steps, the agent must produce a reflection:

1. What was my original goal?
2. What have I learned so far?
3. What do I still need to know?
4. Am I making progress, or repeating?
5. Should I continue or stop?

Die Reflexion zwingt den Agenten, von der unmittelbar nächsten Aktion zurückzutreten und das Gesamtbild zu bewerten.

Das ist besonders bei lang laufenden Aufgaben wirksam. Ohne erzwungene Reflexion driften Agenten ab; mit ihr erkennen sie die eigene Abweichung.

Muster 6: Zielverankerung

Bei langen Agentenläufen geht das ursprüngliche Ziel verloren. Das Kontextfenster füllt sich mit Zwischenschritten; die ursprüngliche Frage wird zu einem kleinen Teil eines umfangreichen Kontexts.

Wirken Sie dem durch wiederholte Zielverankerung entgegen:

• Fügen Sie das ursprüngliche Ziel am Anfang jeder Systemnachricht hinzu.
• Lassen Sie den Agenten das Ziel alle N Schritte erneut formulieren.
• Verwenden Sie einen separaten „Ziel-Tracker“, der bestätigt, dass jeder Schritt auf das Ziel ausgerichtet ist.

Beispiel für Prompt-Erweiterung:

Original goal: [verbatim user request]

Before each action, confirm:
- Is this action helping me toward the original goal?
- If yes, proceed.
- If no, return to the goal directly.

Muster 7: Unteraufgabenbegrenzung

Lange Agentenläufe werden naturgemäß in Unteraufgaben zerlegt. Ohne Struktur können daraus rekursiv immer weitere Unteraufgaben entstehen, bis der Agent die Orientierung verliert.

Struktur bereitstellen:

• Der Agent identifiziert Unteraufgaben explizit.
• Jede Unteraufgabe hat ihr eigenes Budget.
• Nach Abschluss (oder Scheitern) einer Unteraufgabe kehrt der Agent zur Hauptaufgabe zurück.
• Unteraufgaben können keine unbegrenzten Unteraufgaben von Unteraufgaben erzeugen.

Genau das formalisieren Frameworks wie LangGraph: eine Zustandsmaschine, in der jeder Knoten einen klaren Schritt und jeder Wechsel einen expliziten Übergang darstellt.

Für komplexe Agenten ist diese Struktur unerlässlich. Für einfache Agenten ist sie übertrieben.

Muster 8: Ausstiegsmöglichkeiten

Wenn ein Agent feststeckt, benötigt er explizite Wege, um aufzuhören:

Eskalation. „Ich kann diese Aufgabe nicht abschließen. Das habe ich versucht, und diese Informationen fehlen.“ Der Agent beendet den Lauf und macht das Problem sichtbar.

Teilergebnis. „Ich habe die Teile A und B abgeschlossen. C ist durch X blockiert.“ Der Agent muss die Aufgabe nicht vollständig lösen, sondern kann ein nützliches Teilergebnis liefern.

Klarstellung. „Ich benötige weitere Informationen vom Nutzer: …“ Der Agent pausiert und fragt nach.

Diese Möglichkeiten sollten Optionen erster Klasse sein, keine letzten Auswege. Der Agenten-Prompt sollte sie ausdrücklich nennen und ihre Nutzung fördern, wenn der Agent feststeckt.

Nützliche Prompt-Erweiterung:

If you encounter any of these situations, stop trying and respond appropriately:
- A tool consistently returns the same error.
- You've tried 3 different approaches without progress.
- You need information only the user can provide.
- The task is more complex than your tools support.

In these cases:
- For tool errors: explain the issue, suggest the user contacts support.
- For lack of progress: report what you've tried and ask for guidance.
- For missing information: ask the user a specific question.
- For complexity: escalate to human assistance with a summary.

Muster 9: Konfidenzbasierte Aktionen

Der Agent sollte erkennen, wann seine Konfidenz hoch oder niedrig ist. Aktionen bei geringer Konfidenz können Schleifen auslösen.

Ein Muster: Jede folgenreiche Aktion erfordert eine explizite Konfidenzeinschätzung.

Before calling delete_record, state your confidence on a 1-5 scale that this is the right action. If <4, do not call. Instead, ask for human confirmation.

Das funktioniert besonders gut bei destruktiven oder teuren Aktionen. Der Agent muss vor ihrer Ausführung eine hohe Konfidenz angeben.

Kombiniert mit Reflexion erkennt dies Fälle, in denen der Agent „Dinge ausprobiert“ statt „einen Plan ausführt“.

Muster 10: Werkzeugseitige Schutzmaßnahmen

Zusätzlich zu den Agentenmustern können die Werkzeuge selbst Schutzmechanismen durchsetzen:

Rate-Limit pro Sitzung. Ein Werkzeug darf in einer Sitzung nur N-mal aufgerufen werden. Danach gibt es „rate limit“ zurück und zwingt den Agenten zu einem anderen Vorgehen.

Idempotenz. Wiederholte identische Aufrufe geben das zwischengespeicherte Ergebnis zurück, ohne die Aktion erneut auszuführen. Das verhindert, dass Schleifen ein Werkzeug ständig belasten.

Kostenobergrenzen. Teure Werkzeuge — etwa aufwendige Datenbankabfragen oder kostenpflichtige Drittanbieter-APIs — erhalten Limits pro Sitzung.

Fehler-Circuit-Breaker. Ein Werkzeug, das in derselben Sitzung dreimal fehlgeschlagen ist, wird deaktiviert. Der Agent kann es anschließend nicht mehr aufrufen.

Diese ergänzen Agentenmuster. Der Agent könnte versuchen, eine Schleife zu bilden, aber das Werkzeug verhindert sie.

Muster 11: Externe Überwachung

Trotz aller Muster innerhalb des Agenten fängt eine externe Überwachung die verbleibenden Fälle ab.

Ein Überwachungsprozess beobachtet alle laufenden Agenten. Er prüft:

• Schrittzahl pro Agent.
• Tokenverbrauch pro Agent.
• Kosten pro Agent.
• Zeit pro Agent.
• Werkzeugaufrufmuster.

Wenn ein Agent einen Schwellenwert überschreitet, beenden Sie seinen Lauf und senden Sie eine Warnung.

Das ist die letzte Verteidigungslinie. Selbst wenn der Agent defekt ist, stoppt ihn die Überwachung, bevor er das Budget aufzehrt.

In der Umsetzung:

• Eine Zeitreihendatenbank verfolgt Agentenmetriken.
• Regeln lösen Abbruchbefehle aus („Wenn ein Agent länger als fünf Minuten läuft, Lauf beenden“).
• Ein kleiner Dienst beobachtet und erzwingt die Einhaltung.

Für Systeme, in denen viele Agenten gleichzeitig laufen, ist das unverzichtbar.

Muster 12: Human-in-the-Loop-Prüfpunkte

Bauen Sie bei risikoreichen Agenten menschliche Prüfpunkte ein. Der Agent arbeitet bis zu einem Prüfpunkt und wartet dann auf eine menschliche Freigabe.

Typische Checkpoints:

• Vor destruktiven Aktionen.
• Nach einer unumkehrbaren Entscheidung des Agenten.
• Bei wichtigen Meilensteinen in einer langen Aufgabe.
• Wenn die Konfidenz sinkt.

Dabei geht es nicht um Misstrauen, sondern darum, Fehler zu erkennen, solange ihre Behebung noch wenig kostet.

Ein praktischer Ablauf: Der Agent erledigt die Vorarbeit autonom und legt eine Zusammenfassung mit vorgeschlagenen Aktionen vor. Ein Mensch gibt sie frei, anschließend führt der Agent sie aus. Die menschliche Beteiligung gilt den Entscheidungen, nicht jedem einzelnen Schritt.

Ein vollständiges Beispiel: ein lang laufender Rechercheagent

So werden die Muster auf einen realen Agenten angewendet:

Aufgabe: Einen Wettbewerber untersuchen und einen Kurzbericht erstellen.

Geschätzter Aufwand: 10–30 Websuchen, 20–50 gelesene Seiten und die Synthese zu einem Kurzbericht mit 1.000 Wörtern.

Eingesetzte Muster:

1. Schritt-Budget: 60 Schritte insgesamt.

2. Tokenbudget: 300.000 Tokens (Kontext + Aktionen). Bei Überschreitung werden die aktuellen Erkenntnisse zusammengefasst und die Arbeit wird fortgesetzt.

3. Kostenbudget: 2 € pro Lauf. Bei Überschreitung wird der Lauf beendet und ein Teilbericht zurückgegeben.

4. Zeitbudget: fünf Minuten verstrichene Zeit.

5. Fortschrittsverfolgung: Bei jedem Schritt aktualisiert der Agent ein „Erkenntnisprotokoll“ mit neuen Informationen. Vergehen drei Schritte ohne neue Erkenntnisse, beendet er den Lauf.

6. Wiederholungserkennung: Wenn dieselbe Suchanfrage zweimal mit ähnlichen Ergebnissen durchgeführt wird, erzwingen Sie einen anderen Ansatz.

7. Reflexionspunkte: Nach jeweils zehn Schritten reflektiert der Agent über den Fortschritt und die verbleibende Arbeit.

8. Zielverankerung: Das ursprüngliche Ziel des Kurzberichts steht am Anfang jeder Systemnachricht.

9. Ausstiegsmöglichkeiten: „Ich habe genügend Informationen“ und „Ich kann keine ausreichenden Informationen finden“ beenden den Agenten kontrolliert.

10. Externe Überwachung: Eine unabhängige Instanz beendet Agentenläufe, die ihre Budgets überschreiten.

Ergebnis: Median der Laufzeit: drei Minuten. Median der Kosten: 0,40 €. Fehlerquote (Schleifen oder Zeitüberschreitungen): unter 1 %. Die erzeugten Kurzberichte umfassen 700–1.200 Wörter, sind faktenbasiert und bilden nützliche Ausgangspunkte.

Ohne diese Muster treten gelegentlich 30-minütige Läufe, Kosten von mehr als 20 € und unbrauchbare Sitzungen auf. Die Muster reduzieren dieses Ausreißerrisiko erheblich.

Erkennung in der Produktion

Selbst mit diesen Mustern können gelegentlich Probleme durchrutschen. Erkennen Sie sie frühzeitig:

Warnungen bei lang laufenden Agenten. Jeder Agent, dessen Laufzeit den Median um mehr als das Zweifache überschreitet, löst eine Warnung aus.

Warnungen bei Kostenspitzen. Die Kosten pro Agent oder die Gesamtkosten überschreiten einen Schwellenwert.

Warnungen für Wiederholungsmuster. Werkzeugaufrufmuster, die Schleifen andeuten.

Tägliche Prüfung langer Traces. Ein Mensch prüft täglich die zehn längsten Traces. Das deckt Probleme auf, die Evaluierungen übersehen.

Aggregierte Metriken: Die Schleifenrate im Zeitverlauf zeigt, wenn eine Änderung — etwa ein Modell- oder Prompt-Update — die Häufigkeit von Schleifen erhöht.

Ein nützliches Dashboard zeigt die Verteilung der Agentenlaufzeiten. Der lange Ausläufer der Verteilung macht Schleifen sichtbar.

Häufige Fehler

Einige Muster, die wir häufig sehen:

Fehler 1: Kein Schrittbudget. „Wir ergänzen es, wenn wir es brauchen.“ Dann gerät der Agent um 3 Uhr morgens in eine Schleife und Sie wünschen sich, es von Anfang an implementiert zu haben. Tun Sie das immer ab dem ersten Tag.

Fehler 2: Zu hohe Budgets. „100 Schritte sollten ausreichen“ — doch eine Schleife schöpft sie vollständig aus. Setzen Sie Budgets auf das Zwei- bis Dreifache des Medians, nicht auf den schlimmsten denkbaren Fall.

Fehler 3: Keine externe Überwachung. Sie vertrauen darauf, dass der Agent sich selbst beendet. Manchmal tut er das nicht. Eine externe Überwachung ist im Produktivbetrieb unverzichtbar.

Fehler 4: Schleifen erkennen, aber nicht analysieren. Eine Schleife tritt auf, die Überwachung beendet den Lauf und das Team geht zur Tagesordnung über. In der folgenden Woche tritt dieselbe Schleife erneut auf. Führen Sie bei erkannten Schleifen immer eine Ursachenanalyse durch: Was hat sie ausgelöst, was hat sich geändert und wie lässt sich diese Fehlerklasse verhindern?

Fehler 5: Übermäßige Reflexion bei einfachen Aufgaben. Bei einer Aufgabe mit fünf Schritten nach jeweils fünf Schritten eine Reflexion zu erzwingen verursacht nur Aufwand. Stimmen Sie das Intervall auf die Aufgabenkomplexität ab.

Fehler 6: Ziele gehen in langen Kontexten verloren. Ein Ziel, das nur in Schritt 1 erwähnt wird, bleibt bis Schritt 50 nicht präsent. Verankern Sie es regelmäßig erneut.

Fehler 7: Den Fortschrittsmeldungen des Agenten vertrauen. Agenten behaupten mitunter, Fortschritte zu erzielen, obwohl das nicht stimmt. Prüfen Sie den Fortschritt nach Möglichkeit extern.

Fehler 8: Agenten dürfen sich rekursiv selbst aufrufen. „Zerlegen Sie diese Aufgabe in Unteragenten“ kann zu einem exponentiellen Anwachsen der Agentenzahl führen. Wenn Sie dies zulassen, begrenzen Sie es strikt.

Wenn Schleifen akzeptabel sind

Nicht alle Schleifen sind schlecht. Einige Aufgaben benötigen tatsächlich viele Iterationen:

• Iterative Verbesserung von Code (schreiben, testen, beheben, wiederholen).
• Mehrschrittige Forschung mit Verzweigungen.
• Optimierungsaufgaben (Variationen ausprobieren, bewerten, verfeinern).

Bei diesen Aufgaben ist die Schleife Teil der Arbeit und kein Fehler. Die Muster verschieben sich:

• Großzügige Schritt-Budgets (50–200 Schritte).
• Explizite Einordnung als „Iteration“, nicht als „Schleife“.
• Nachverfolgung der Qualitätsverbesserung — jede Iteration sollte eine Metrik verbessern.
• Hartes Beenden, wenn die Verbesserung stagniert.

Der Grundsatz lautet: Unterscheiden Sie beabsichtigte iterative Arbeit von unbeabsichtigten Schleifen und wenden Sie die Muster jeweils passend an.

Die Produktionscheckliste

Agenten, die endlos in Schleifen laufen, sind vorhersehbar, häufig und vermeidbar. Die Muster sind bekannt: Schrittbudgets, Fortschrittsverfolgung, Wiederholungserkennung, Reflexion, Zielverankerung, Ausstiegsmöglichkeiten, Werkzeugschutz und externe Überwachung.

Diese Maßnahmen sind kein optionaler Feinschliff. Sie unterscheiden Agenten, die produktiv eingesetzt werden können, von Agenten, die unerwartete vierstellige Rechnungen verursachen.

Die Checkliste für jeden Agenten im Produktivbetrieb:

• Maximales Schritt-Budget.
• Maximales Token-Budget.
• Maximales Kostenbudget.
• Maximales Zeitbudget.
• Wiederholungserkennung.
• Fortschrittsverfolgung.
• Periodische Reflexion.
• Zielverankerung.
• Mehrere Ausstiegsmöglichkeiten.
• Externe Überwachung mit Abbruchmöglichkeit.

Jeder einzelne Punkt ist einfach umzusetzen. Gemeinsam machen sie den Unterschied zwischen „Dieser Agent ist im unbeaufsichtigten Betrieb gefährlich“ und „Dieser Agent arbeitet im Produktivbetrieb zuverlässig“.

Implementieren und testen Sie diese Muster. Die Verringerung des Ausreißerrisikos ist den Aufwand um ein Vielfaches wert.