Im Prompt Engineering liefern drei Techniken bei schwierigen analytischen Aufgaben messbare und wiederholbare Verbesserungen: Chain-of-Thought, Selbstkritik und Tree-of-Thoughts. Sie werden seit der Reasoning-Forschungswelle 2022–2023 untersucht – Chain-of-Thought in Wei et al., 2022, Tree-of-Thoughts in Yao et al., 2023. Trotz eigener Reasoning-Tarife und Thinking-Modi aktueller GPT-5.x- und Claude-Modelle sowie DeepSeek R1 bleiben sie relevant: für schnelle Modelle und für die richtige Aufgabenstellung an Reasoning-Modelle.
Dieser Artikel erklärt die drei Techniken, ihre jeweiligen Einsatzbereiche und ihre Kosten-Nutzen-Abwägung.
Das Problem, das diese Techniken lösen
Alle drei Techniken lösen dasselbe Grundproblem: Ein Sprachmodell erzeugt Antworten autoregressiv, Token für Token. Ohne eigene Überlegungs- oder Suchphase schränken frühe Tokens den weiteren Verlauf ein und können die Antwort auf eine schwache Schlussfolgerung festlegen. Bei einfachen Aufgaben ist das effizient. Mehrstufiges Reasoning und komplexe Analysen können dadurch jedoch selbstbewusst falsche Ergebnisse liefern.
Die Techniken zwingen das Modell, vor der endgültigen Festlegung mehr Rechenleistung auf Zwischenschritte zu verwenden.
Chain-of-thought (CoT)
Die ursprüngliche und einfachste Technik: Ergänzen Sie „Denken Sie vor der endgültigen Antwort Schritt für Schritt“. Das Modell arbeitet dann Zwischenschritte vor der Schlussfolgerung aus.
Ein Beispiel mit Lösung:
Standard-Prompt: Ein Zug verlässt Tallinn um 9:00 Uhr morgens mit einer Geschwindigkeit von 80 km/h. Ein anderer Zug verlässt Tartu um 9:30 Uhr morgens mit einer Geschwindigkeit von 100 km/h in Richtung Tallinn. Der Abstand zwischen den Städten beträgt 190 km. Um welche Zeit treffen sie sich?
gegenüber:
Mit CoT: Dieselbe Frage. Denken Sie Schritt für Schritt. Berechnen Sie zunächst die Strecke des ersten Zugs bis zum Start des zweiten. Stellen Sie danach die Gleichung für den Treffzeitpunkt auf. Zeigen Sie die Rechnung und nennen Sie anschließend das Ergebnis.
Bei schwierigen arithmetischen Aufgaben lagen die Fehlerraten von GPT-3.5-Modellen mit Standard-Prompt bei etwa 30–50 %, mit CoT dagegen bei etwa 5–15 %. Die Werte haben sich mit besseren Modellen verschoben, doch die Richtung blieb gleich: CoT erhöht bei mehrstufigen Aufgaben die Genauigkeit.
Wann Chain-of-thought verwendet werden sollte:
- Mehrschrittige Arithmetik, insbesondere mit Einheiten, Daten oder präzisem Runden. Selbst starke Modelle machen hier Fehler.
- Logikrätsel und ähnliche Probleme, bei denen die Antwort der Schlussfolgerung einer Kette entspricht.
- Code-Debugging, bei dem die Antwort von der Nachverfolgung des Zustands abhängt.
- Strategieanalysen, bei denen die Schlussfolgerung von der Abwägung mehrerer Faktoren abhängt.
Wann nicht verwendet werden sollte:
- Einfache Faktenwiederholung. „Was ist die Hauptstadt Estlands?“ benötigt keine CoT.
- Generative Aufgaben. Beim Schreiben, Zusammenfassen und Entwerfen fügt CoT meist nur Tokens ohne Qualitätsgewinn hinzu.
- Reasoning-Modelle. o3, Claude Extended Thinking und DeepSeek R1 führen CoT bereits intern aus. „Denken Sie Schritt für Schritt“ ist bestenfalls überflüssig und schlimmstenfalls kontraproduktiv.
Dieser letzte Punkt ist entscheidend und wir werden darauf zurückkommen.
Selbstkritik
Eine Technik mit zwei Durchgängen: Das Modell erzeugt zunächst eine Antwort, kritisiert sie anschließend und erstellt eine überarbeitete Fassung.
Die Promptstruktur:
Schritt 1: [Ihre ursprüngliche Frage]
Schritt 2: Überprüfen Sie Ihre Antwort oben. Finden Sie Fehler, Schwächen oder Stellen, an denen Sie Annahmen getroffen haben, die möglicherweise nicht gelten. Seien Sie ein harter Kritiker Ihrer eigenen Arbeit.
Schritt 3: Erstellen Sie anhand Ihrer Kritik eine überarbeitete Antwort.
Im zweiten Durchgang ist das Modell nicht mehr an die zuerst gewählte Schlussfolgerung gebunden. Aus der kritischen Perspektive erkennt es Probleme, die es bei der ursprünglichen Antwort übersehen hat.
Eine anspruchsvollere Variante ist die konstitutionelle beziehungsweise prinzipienbasierte Selbstkritik. Sie definieren Kriterien und lassen die Antwort einzeln gegen jedes davon prüfen.
Prinzipien für eine gute Antwort zu dieser Art von Frage:
- Sie bezieht sich auf die tatsächliche Frage, nicht auf eine Verallgemeinerung davon.
- Sie zitiert konkrete Belege statt nur allgemein auf Quellen zu verweisen.
- Sie erkennt explizit vorhandene Unsicherheiten.
- Sie ist kalibriert — überzeugend bei starken Punkten, vorsichtig bei schwachen.
Erstellen Sie eine Antwort, bewerten Sie sie anhand jedes Prinzips und überarbeiten Sie sie anschließend.
Dies ist die Technik hinter Anthropics Constitutional AI-Arbeit und ähnlichen Ansätzen in der modernen Ausrichtungsforschung.
Wann Selbstkritik verwendet werden sollte:
- Schreibaufgaben, bei denen Sie eine zweite Überprüfung ohne Verlassen des Gesprächs wünschen.
- Analytische Arbeit, bei der das Modell wahrscheinlich zu selbstsicher antwortet.
- Entscheidungsunterstützung, bei der Sie das Modell dazu bringen möchten, die Lücken in seinem Argument zu finden.
- Code, bei dem Sie eine Überprüfung nach der Generierung wünschen.
Wann nicht verwendet werden sollte:
- Aufgaben ohne „richtige“ Zielantwort, etwa kreatives Brainstorming oder Ideenfindung.
- Aufgaben, bei denen Sie selbst die Kritik lieber durchführen möchten (jede Aufgabe, bei der Ihre Urteilsfähigkeit der Wert ist).
- Kurze Gesprächsantworten, bei denen die zusätzliche Latenz den Qualitätsgewinn nicht rechtfertigt.
Tree-of-thoughts (ToT)
Die teuerste Technik: Statt nur einer Argumentationskette untersucht das Modell mehrere Wege, bewertet sie und wählt den aussichtsreichsten.
Ein Beispiel für eine Struktur mit Lösung:
Schritt 1: Erstellen Sie drei verschiedene Ansätze für dieses Problem.
Schritt 2: Arbeiten Sie für jeden Ansatz die ersten Schritte aus, ohne sich auf eine endgültige Antwort festzulegen.
Schritt 3: Bewerten Sie, welcher Ansatz am wahrscheinlichsten erfolgreich ist und warum. Seien Sie spezifisch bezüglich Stärken und Schwächen.
Schritt 4: Wählen Sie den besten Ansatz und führen Sie die Lösung zu Ende.
Tree-of-Thoughts hilft bei Problemen mit mehreren plausiblen Lösungswegen, weil der zuerst gewählte nicht immer der beste ist. Die parallele Erkundung verhindert eine zu frühe Bindung an einen schwächeren Pfad.
Praktisches Beispiel — ein schwieriger Prompt:
Ich habe eine komplexe SQL-Abfrage, die zu langsam läuft. Helfen Sie mir, sie zu optimieren.
Schritt 1: Erstellen Sie drei verschiedene Optimierungsstrategien.
Schritt 2: Nennen Sie für jede Strategie den konkreten Engpass, den sie behebt, und die damit verbundenen Kosten.
Schritt 3: Bewerten Sie, welche Strategie voraussichtlich den größten Gewinn bei geringstem Risiko erzielt.
Schritt 4: Implementieren Sie den gewählten Ansatz.
Das Ergebnis ist deutlich durchdachter als eine einzelne Umformulierung: drei Ansätze, Vergleich, Empfehlung und Umsetzung.
Wann Tree-of-thoughts verwendet werden sollte:
- Probleme mit mehreren glaubwürdigen Lösungen. Architekturentscheidungen, Algorithmenwahl, strategische Entscheidungen.
- Optimierungsprobleme. Bei denen der erste Versuch selten der beste ist.
- Kreative Aufgaben, bei denen Erkundung das Ziel ist. Namensgebung, Rahmung und Positionierung.
- Alles, bei dem Sie vermuten, dass die offensichtliche Antwort falsch ist.
Wann nicht verwendet werden sollte:
- Aufgaben mit einem einzigen korrekten Ansatz. Fragen Sie nicht nach drei SQL-Abfragen, wenn eine funktioniert.
- Einfache Faktenfragen. Übertrieben.
- Die meisten Aufgaben für Reasoning-Modelle – diese Modelle erkunden solche Wege bereits intern.
Praktischer Entscheidungsbaum
Wenn Sie ein schwieriges Problem vor sich haben, ist die Frage nicht „Sollte ich CoT, Selbstkritik oder ToT verwenden?“. Die Frage ist: „Welche Form hat das Problem?“
- Lineares mehrschrittiges Problem (Arithmetik, Logikrätsel, strikte Schlussfolgerung) → Chain-of-thought.
- Problem, bei dem Selbstüberschätzung das Risiko ist (Analyse, Empfehlung oder zu prüfender Code) → Selbstkritik.
- Problem mit mehreren glaubwürdigen Ansätzen (Optimierung, strategische Entscheidung, kreative Erkundung) → Tree-of-Thoughts.
- Gesprächsnah, einfach oder generativ → keine. Verzichten Sie auf den Zusatzaufwand.
Ein nützliches Metamuster verbindet CoT innerhalb von ToT und anschließender Selbstkritik: drei Pfade erkunden, jeden schrittweise prüfen und den gewählten kritisieren. Das ist nur für besonders schwierige Analysen sinnvoll; der Preis sind zusätzliche Latenz und Tokens.
Wie Reasoning-Modelle die Kosten-Nutzen-Rechnung verändern
Die größte Veränderung seit 2024 ist der Aufstieg spezieller Reasoning-Modelle: o1, o3, Claude Extended Thinking, DeepSeek R1 und Gemini 2.5 Thinking. Sie führen Chain-of-Thought intern aus und „denken“ vor der Antwort oft mehrere Sekunden oder Minuten.
Dadurch verändert sich die Aufgabenstellung in drei wichtigen Punkten:
1. Ergänzen Sie nicht mehr „Denken Sie Schritt für Schritt“. Reasoning-Modelle tun dies bereits. Der ausdrückliche Zusatz kann verwirren oder redundante Ausgaben erzeugen. Stellen Sie die Frage direkt.
2. Überlassen Sie dem Modell die Länge des Reasonings. Bei komplexen Fragen erzeugt es intern eine lange Argumentationskette, von der ein Teil im Thinking-Modus verborgen bleibt. Der Preis ist längere Wartezeit.
3. Verwenden Sie klare, direkte Prompts. Reasoning-Modelle reagieren weniger empfindlich auf Prompt-Formulierungen und können Mehrdeutigkeit eher auflösen. Übermäßig detaillierte Rahmen, Einschränkungen und Vorlagen können ihre Ergebnisse verschlechtern. Testen Sie zuerst die einfache Variante.
Vergleichen Sie diese beiden Prompts für ein Reasoning-Modell:
Prompt A: „Denken Sie Schritt für Schritt über die folgende Frage nach. Identifizieren Sie zuerst die wichtigsten Einschränkungen, listen Sie dann die Optionen auf, bewerten Sie jede anhand der Einschränkungen und wählen Sie anschließend. Zeigen Sie das Reasoning bei jedem Schritt. Frage: Sollten wir eine Vier-Tage-Woche einführen?“
Prompt B: „Sollten wir eine Vier-Tage-Woche einführen? Kontext: B2B-SaaS-Unternehmen mit 80 Beschäftigten; der Kundendienst arbeitet montags bis freitags.“
Bei den meisten Reasoning-Modellen liefert Prompt B die bessere Antwort. Das Modell weiß bereits, wie es die Frage untersuchen soll; ein explizites Gerüst kann es nachteilig einschränken.
Für schnelle Modelle gilt das Gegenteil. Sie benötigen die Strukturierung, um eine vergleichbare Qualität zu erzeugen.
Das ist die wichtigste neue Erkenntnis des Prompt Engineering seit 2023: Der für ein schnelles Modell beste Prompt kann bei einem Reasoning-Modell schlechter funktionieren – und umgekehrt.
Kosten-Nutzen-Rechnung
Alle Techniken haben Kosten. Die ehrliche Bilanz:
| Technik | Token-Kosten | Latenzkosten | Qualitätsgewinn | Wann lohnt sich |
|---|---|---|---|---|
| Chain-of-thought | ~2–3x | ~1,5–2x | 10–40 % bei schwierigen Problemen | Mehrschrittige Probleme mit schnellen Modellen |
| Selbstkritik | ~2x | ~2x | 5–20 % allgemein | Wenn Selbstüberschätzung ein reales Risiko darstellt |
| Tree-of-thoughts | ~3–5x | ~2–3x | 10–30 % bei mehreren Ansätzen | Schwierige Probleme mit mehreren Wegen |
| Reasoning-Modell (integriert) | ~3–10x | ~5–30x | 30–100 % bei schwierigen Problemen | Bei wirklich schwierigen Problemen |
Für die meisten alltäglichen Anwendungen genügt ein schnelles Modell ohne Zusatztechnik. Bei schwierigen Problemen rechtfertigt die passende Technik oder ein Reasoning-Modell den Mehraufwand. Bei trivialen Aufgaben verschwenden alle Varianten Zeit und Geld.
Praktische Regel: Ist die Bedeutung eines Fehlers bei dieser Aufgabe groß genug, um die Zusatzkosten der Technik zu rechtfertigen? Wenn ja, wählen Sie die passende Technik. Wenn nicht, senden Sie den Prompt direkt.
Praktisches Beispiel: eine echte schwierige Aufgabe
Stellen Sie sich vor, Sie bewerten zwei Anbieterangebote und möchten eine kalibrierte Vergleichsanalyse.
Ohne Technik (Standard-Prompt):
Vergleichen Sie diese beiden Anbieterangebote [einfügen]. Welches sollten wir wählen?
Sie erhalten eine vorsichtige Antwort, die beide Seiten wiedergibt. Das ist ein nützlicher, aber unzureichender Ausgangspunkt.
Mit CoT:
Vergleichen Sie diese beiden Anbieterangebote. Denken Sie Schritt für Schritt:
- Listen Sie die Kriterien auf, die für unsere Entscheidung wichtig sind.
- Bewerten Sie jeden Anbieter anhand jedes Kriteriums.
- Identifizieren Sie die Kriterien, bei denen die Bewertungen am stärksten abweichen.
- Geben Sie dann Ihre Empfehlung.
Sie erhalten eine deutlich strukturiertere Analyse. Jeder Schritt ist sichtbar; Sie können ihn überprüfen oder korrigieren.
Mit zusätzlicher Selbstkritik:
[wie oben]
Nach Ihrer Empfehlung kritisieren Sie Ihre eigene Analyse:
- Welche Kriterien habe ich möglicherweise falsch gewichtet?
- Was habe ich angenommen, was ich nicht hätte annehmen sollen?
- Welches ist die stärkste glaubwürdige Argumentation für den anderen Anbieter?
Erstellen Sie eine überarbeitete Empfehlung, wenn nötig.
Die Kritik erkennt blinde Flecken der ersten Analyse.
Mit ToT:
Vergleichen Sie diese beiden Anbieterangebote.
Schritt 1: Erstellen Sie drei verschiedene Entscheidungsrahmen für diese Art von Wahl (z. B. risikominimierend, wertmaximierend, fähigkeitsorientiert).
Schritt 2: Wenden Sie jeden Rahmen an und erstellen Sie drei Empfehlungen.
Schritt 3: Wo stimmen die Rahmen überein? Wo divergieren sie?
Schritt 4: Welcher Rahmen passt angesichts unserer tatsächlichen Einschränkungen am besten? Geben Sie eine endgültige Empfehlung.
Sie erhalten drei verschiedene Perspektiven auf die Wahl; die Unterschiede sind der interessante Denkprozess.
Mit einem Reasoning-Modell:
Vergleichen Sie diese beiden Anbieterangebote. Welches sollten wir wählen und warum? Nennen Sie die Dinge, die Ihre Antwort verändern würden.
Das Reasoning-Modell führt die beschriebenen Schritte intern aus. Das Ergebnis ist bei ungefähr gleicher Wartezeit häufig gleichwertig oder besser als ein stark angeleitetes schnelles Modell.
2026 ist für wirklich schwierige analytische Aufgaben meist ein Reasoning-Modell mit klarem Prompt die richtige Wahl. CoT und ToT bleiben bei schnellen Modellen hilfreich; Selbstkritik kann unabhängig vom Modell eine zusätzliche Prüfebene bilden.
Einige praktische Gewohnheiten
Machen Sie die Technik für sich selbst sichtbar. Notieren Sie, welche Technik Sie in Ihrem Prompt verwendet haben — es hilft Ihnen, Intuition aufzubauen, was funktioniert.
Vergleichen Sie Ergebnisse. Führen Sie einmal pro Woche denselben schwierigen Prompt mit und ohne Technik aus. Dadurch erkennen Sie schnell, wann der Zusatzaufwand gerechtfertigt ist.
Kombinieren Sie Techniken nicht gedankenlos. CoT + Selbstkritik + ToT + Reasoning-Modell ist selten besser als eine gezielte Auswahl. Jede Ebene erhöht die Kosten und sollte nur bei nachweislichem Nutzen hinzukommen.
Speichern Sie die Techniken in Ihrer Bibliothek. Textbausteine für „mit CoT“, „mit Selbstkritik“ und „mit ToT“ ersparen das wiederholte Schreiben des Gerüsts.
Fazit
Drei Techniken mit unterschiedlichen Stärken: Chain-of-Thought für lineare mehrstufige Probleme, Selbstkritik gegen Selbstüberschätzung und Tree-of-Thoughts für mehrere Lösungswege. Reasoning-Modelle verändern die Abwägung, weil sie Teile intern ausführen. Für schnelle Modelle und als zusätzliche Prüfmuster bleiben die Techniken dennoch relevant.
Wählen Sie passend zur Form des Problems und verzichten Sie, wenn der Nutzen die Kosten nicht rechtfertigt. Verinnerlichen Sie den Unterschied zwischen einem schwierigeren und einem andersartigen Problem; alles Weitere folgt daraus.
