Wenn Sie einem Modell bereits Ihre bevorzugte Option nennen und es anschließend bitten, „meine Argumentation zu prüfen“, kann die Antwort an Ihrem Framing verankert sein. Sie kann Annahmen wiederholen oder plausible Einwände erzeugen, ohne Belege abzurufen. Eine unabhängige psychologische Beurteilung ist sie nicht.
Eine feste Checkliste, die ausdrücklich festgehaltene anfängliche Tendenz und eine externe Überprüfung machen die Übung nachvollziehbarer als eine offene Bitte um Bestätigung. Sie garantieren weder, dass die Prüfung Verzerrungen erkennt, noch dass sie die Entscheidung verbessert.
Ein Modell, das Ihre Entscheidung prüft, ist kein neutraler Schiedsrichter. Ein Preprint aus dem Jahr 2024 untersuchte 30 dokumentierte Verzerrungen bei 20 großen Sprachmodellen und fand bei zumindest einigen getesteten Modellen Hinweise auf jede dieser Verzerrungen, darunter Framing- und Ankereffekte (Malberg et al., 2024). Die Studie liefert Erkenntnisse zu den geprüften Modellen und Prompts, aber keinen Beweis dafür, dass sich alle Modelle gleich verhalten. Ein Modell kann zudem plausible Gegenbelege erzeugen, die nie abgerufen wurden. Prüfen Sie alles, worauf Sie eine Handlung stützen wollen.
Sechs Verzerrungen, jedes Mal auf dieselbe Weise geprüft
Verwenden Sie eine feste Lehrliste, statt sich nur auf eine offene Bitte zu verlassen. Die Checkliste macht sichtbar, welche Punkte geprüft werden sollen. Sie erzwingt weder eine korrekte Analyse noch deckt sie jeden relevanten Denkprozess ab.
| Verzerrung | So zeigt sie sich in einer realen Entscheidung | Gegenfrage |
|---|---|---|
| Bestätigungsfehler | Sie haben nach Gründen für die Option gesucht, nicht nach Gründen, die gegen sie sprechen | Wonach habe ich nicht gesucht, weil ich mit einem Widerspruch gerechnet habe? |
| Versunkene Kosten | Bereits investierte Zeit, bereits ausgegebenes Geld oder geleisteter Aufwand gelten als Grund zum Weitermachen (Arkes & Blumer, 1985) | Würde ich mich heute ohne frühere Investition dafür entscheiden? |
| Verfügbarkeitsheuristik | Ein anschauliches aktuelles Beispiel erscheint wahrscheinlicher oder wichtiger, als es die Grundrate rechtfertigt (Tversky & Kahneman, 1974) | Ist das tatsächlich häufig oder nur das Beispiel, an das ich mich am leichtesten erinnere? |
| Status-quo-Verzerrung | Der aktuelle Zustand wird stillschweigend zum Standard, während Veränderungen strengere Belege erfordern als das Verbleiben | Welche Option würde allein aufgrund der Belege besser aussehen, wenn beide heute neu für mich wären? |
| Framing-Effekt | Dieselben Fakten lösen je nach Beschreibung als Gewinn oder Verlust unterschiedliche Präferenzen aus (Tversky & Kahneman, 1981) | Würde ich die Option weiterhin bevorzugen, wenn ich sie gegenteilig formuliere, also Kosten statt Einsparung oder Risiko statt Chance? |
| Vernachlässigung der Grundrate | Eine konkrete, überzeugende Geschichte wiegt stärker als das allgemeine statistische Muster, zu dem sie gehört | Wie hoch ist die Grundrate für solche Ergebnisse, bevor ich die konkrete Geschichte einbeziehe? |
Das ist eine Lehrliste, kein vollständiges oder klinisch validiertes Diagnoseinstrument. Sie eignet sich nur zur strukturierten Reflexion über gewöhnliche Entscheidungen mit begrenzten Folgen, nicht dazu, eine Person als voreingenommen einzustufen oder ihre Einsichts- oder Entscheidungsfähigkeit beziehungsweise ihren psychischen Zustand zu beurteilen.
Schritt 1: Halten Sie Ihre Tendenz vor der Prüfung schriftlich fest
Schreiben Sie vor dem Öffnen eines Chats auf:
- Zu welcher Option Sie derzeit tendieren.
- Seit wann Sie dazu tendieren.
- Was wahr sein müsste, damit Sie Ihre Meinung ändern.
Damit machen Sie Ihre anfängliche Präferenz ausdrücklich sichtbar, statt das Modell sie aus Ton und Framing ableiten zu lassen. Es entsteht ein Datensatz, den Sie mit den Ergebnissen der Prüfung vergleichen können. Vor Anker- oder Bestätigungsfehlern schützt dieser Datensatz jedoch nicht.
Schritt 2: Wenden Sie die feste Checkliste an und verlangen Sie Belege
Schwacher Prompt:
Ich erwäge, Kandidat A anstelle von Kandidat B zu befördern. Ist das eine gute Entscheidung?
Dieser Prompt gibt Ihr Framing vor, etwa durch das Wort „befördern“ und die Reihenfolge der Namen, und bittet um eine Meinung. Je nach Modell und Kontext kann die Antwort dieses Framing aufgreifen, ihm widersprechen oder allgemeine Vorbehalte hinzufügen. Keines dieser Ergebnisse ist eine Prüfung der Belege.
Stärkerer Prompt:
Ich habe bereits entschieden, dass ich zu [option] tendiere. Sage mir nicht, ob die Entscheidung gut ist.
Prüfe meine Argumentation genau auf diese sechs Verzerrungen: Bestätigungsfehler, versunkene Kosten, Verfügbarkeitsheuristik, Status-quo-Verzerrung, Framing-Effekt und Vernachlässigung der Grundrate.
Für jede Verzerrung:
1. Zitiere die konkrete Stelle meiner Argumentation, an der sie eine Rolle spielen könnte.
2. Nenne die Belege, die ich deshalb noch nicht geprüft habe.
3. Schlage einen Gegenbeleg vor, der meine Entscheidung ändern würde, wenn er zutrifft. Sage ausdrücklich, ob ich diesen Gegenbeleg tatsächlich extern prüfen muss oder ob du ihn nur als plausibles Beispiel erzeugt hast.
Empfehle nicht die andere Option. Schwäche die Ergebnisse nicht ab, nur um ausgewogen zu wirken.
Gekürztes Beispiel für eine Entscheidung, beim bestehenden Anbieter zu bleiben, statt zu wechseln:
Versunkene Kosten: Zitierte Begründung: „Wir haben ein Jahr in diese Integration investiert.“ Die bereits angefallenen Ausgaben sind versunken. Die dabei entstandene Integration oder Fähigkeit kann aber die künftigen Kosten eines Wechsels, des Betriebs, der Umschulung und entgangener Alternativen weiterhin beeinflussen. Noch nicht geprüfter Beleg: ein zukunftsgerichteter Vergleich, der frühere Ausgaben von den künftigen Zahlungsströmen, Risiken und Vorteilen des Bleibens oder Wechselns trennt. Zu prüfender Gegenbeleg: Holen Sie eine tatsächliche Schätzung der Migrations- und Betriebskosten ein, statt den bereits geleisteten Aufwand zum entscheidenden Grund zu machen.
Status-quo-Verzerrung: Der bestehende Anbieter gilt als Standard, dessen Verlassen begründet werden muss, statt beide Optionen von null aus zu bewerten. Zu prüfender Gegenbeleg: Erstellen Sie die Vergleichstabelle so, als würden Sie zwei neue Anbieter bewerten und keiner wäre bereits gesetzt.
Framing-Effekt: [kennzeichnet eine Stelle, an der die Entscheidung als „Risiko des Wechsels vermeiden“ und nicht als „Opportunitätskosten des Bleibens“ formuliert wurde. Dieselben Fakten erhalten einen anderen Rahmen und können dadurch eine andere Präferenz auslösen. Dies ist ein erzeugtes Beispiel dafür, wie ein Framing-Hinweis aussehen könnte, und keine überprüfte Tatsache über Ihren konkreten Fall.]
Das Modell hat ausdrücklich unterschieden, welche Gegenbelege extern geprüft werden müssen und welche nur Beispiele sind. Verlangen Sie diese Unterscheidung, damit erzeugte Szenarien nicht mit abgerufenen Tatsachen verwechselt werden.
Verlangen Sie bei jedem Ergebnis eine Trennung zwischen „extern zu prüfenden Belegen“ und „erzeugten Beispielen für die Argumentation“. Geschieht das nicht von selbst, ergänzen Sie eine vierte Anweisung: „Kennzeichne jeden Gegenbeleg als [verify] oder [illustrative].“ Behandeln Sie nicht gekennzeichnete Ausgaben grundsätzlich als illustrativ und prüfen Sie sie selbst, bevor sie eine Entscheidung beeinflussen.
Schritt 3: Erfassen Sie Gegenbelege, bevor Sie sich festlegen
Sammeln Sie für jeden wesentlichen Hinweis auf eine Verzerrung die einschlägigen Gegenbelege, statt die plausible Version des Modells zu übernehmen. Diese externe Prüfung unterscheidet den Workflow von einer rein erzeugten Kritik. Sie garantiert jedoch weder die Vollständigkeit noch die richtige Auslegung der Belege.
Eine kurze Tabelle eignet sich gut:
| Markierte Verzerrung | Benötigter Gegenbeleg | Geprüft? | Ändert die Entscheidung? |
|---|---|---|---|
| Versunkene Kosten | Tatsächliche Schätzung der Migrationskosten von zwei Anbietern | Ja, Angebote eingeholt | Nein, die Kosten waren geringer als angenommen, aber weiterhin wesentlich |
| Status quo | Vergleichstabelle ohne gesetzten Ausgangspunkt | Ja | Geringfügig, der bisherige Anbieter liegt bei zwei von fünf Kriterien weiterhin vorn |
| Framing | Entscheidung im gegenteiligen Rahmen formulieren und Präferenz erneut prüfen | Ja | Nein, die Präferenz blieb in beiden Formulierungen bestehen |
Wenn Ihre Präferenz nach der Prüfung relevanter Gegenbelege bestehen bleibt, ist die Begründung klarer als die ursprüngliche Tendenz, aber nicht zwangsläufig richtig oder vollständig. Ändert sie sich, halten Sie fest, welcher Beleg den Ausschlag gab. Schreiben Sie die Verbesserung ohne Vergleich nicht allein der Checkliste zu.
Wofür diese Prüfung nicht gedacht ist
Der Prozess soll Annahmen und fehlende Belege besser sichtbar machen. Dieser Artikel belegt nicht, dass er eine bestimmte Entscheidung verbessert. Er ersetzt keine Fachkenntnis und darf nicht dazu dienen, einer Entscheidung nur den Anschein von Gründlichkeit zu geben, obwohl sie einen Spezialisten erfordert. Eine wesentliche rechtliche, medizinische oder finanzielle Entscheidung braucht eine qualifizierte Fachperson. Die Bias-Prüfung kann allenfalls der Vorbereitung dienen. Entscheidungshygiene unter Stress behandelt den verwandten Fall, in dem Zeitdruck oder emotionaler Zustand eine andere Grenze erfordern können.
Verwenden Sie die Übung auch nicht als Ersatz für eine psychische Begutachtung, Krisenhilfe, Schutzmaßnahmen oder Entscheidungen unter Zwang oder Missbrauch. Wenn Angst, Manie, schwere Depression, Suizidalität, Intoxikation oder ein anderer akuter Zustand das Urteilsvermögen beeinträchtigen könnte, unterbrechen Sie die KI-Übung und wenden Sie sich an eine geeignete zugelassene Fachperson oder einen Notdienst. Eine Argumentation des Modells ist keine Beurteilung der Einsichts- oder Entscheidungsfähigkeit.
Verantwortung lässt sich damit ebenfalls nicht auslagern. Wenn Sie die Prüfung einsetzen, sollte aus der Dokumentation hervorgehen, dass ein Mensch die markierten Verzerrungen beurteilt, die Gegenbelege geprüft und die Entscheidung getroffen hat. „Die KI hat bestätigt, dass keine Verzerrung vorlag“ wäre ein Kategorienfehler. Findet ein Modell keine Verzerrung, beweist das nicht deren Abwesenheit. Der Prüf-Prompt war möglicherweise nicht kritisch genug oder dieselben Verzerrungen beeinflussen sowohl Ihre Argumentation als auch die Bewertung des Modells.
Ein zweiter, unabhängiger Durchgang
Ein einzelner Modelldurchlauf legt die Fehler des Modells über Ihre eigenen. Vergleichen Sie die Ausgabe deshalb mit der Einschätzung eines Kollegen, der Ihre Präferenz nicht kennt, oder bei entsprechend großer Tragweite mit einer qualifizierten Fachperson. Ein neuer Chat mit einem Modell kann die Verankerung im bisherigen Gespräch verringern, ist aber keine unabhängige Fachmeinung und kann dieselben korrelierten Fehler wiederholen. Prüfen Sie Übereinstimmungen und Widersprüche anhand von Belegen. Abweichungen allein bedeuten nicht, dass die Entscheidung knapp ist. Wie Sie KI zum Widerspruch anregen zeigt eine Möglichkeit, Gegenargumente hervorzurufen, bescheinigt aber keine Unabhängigkeit.
Was die Prüfung nicht bescheinigen kann
Ein Modell ist kein verzerrungsfreier Prüfer Ihrer Argumentation. Es ist ein weiterer Beteiligter mit einer dokumentierten Anfälligkeit für dieselben Framing-, Verfügbarkeits- und Ankereffekte, die es bei Ihnen erkennen soll. Behandeln Sie jede markierte Verzerrung als Spur, die geprüft werden muss, jeden Gegenbeleg als zu prüfende Behauptung und jedes Ergebnis „keine Verzerrung gefunden“ als nicht schlüssig.
Der beabsichtigte Nutzen der Prüfung liegt in ihrer Struktur, nicht in vermeintlicher Orakelhaftigkeit: Eine feste Liste macht den angeforderten Prüfumfang sichtbar und wiederholbar. Ob sie mehr erkennt als eine offene Prüfung, muss bewertet und darf nicht vorausgesetzt werden. Die Beurteilung der Ergebnisse und die Verantwortung für die endgültige Entscheidung bleiben bei dem benannten Menschen oder der qualifizierten Fachperson, die die Entscheidung verantwortet.
Das unten verlinkte Prüfblatt vereint die Checkliste für sechs Verzerrungen, die Tabelle für Gegenbelege und eine Spalte zur Kennzeichnung als „geprüft“ oder „illustrativ“ auf einer wiederverwendbaren Seite für Entscheidungen, zu denen Sie bereits tendieren.
