KI ist ein verlockender Sparringspartner, weil sie jederzeit verfügbar, geduldig und sprachlich gewandt ist und dasselbe Problem wiederholt prüfen kann.
Genau diese Qualitäten machen sie auch riskant.
Eine Kollegin sagt Ihnen vielleicht, dass Ihre Prämisse falsch ist. Eine Freundin bemerkt womöglich, dass Sie eher Erlaubnis als Rat suchen. Eine erfahrene Fachkraft verweigert vielleicht eine Antwort, bis Sie fehlende Belege liefern. Ein Modell beginnt dagegen häufig innerhalb des von Ihnen gesetzten Rahmens und hilft, ihn schlüssig klingen zu lassen.
Das Ergebnis ist nicht immer eine faktische Halluzination. Häufiger ist es eine gut geschriebene Fortsetzung Ihres eigenen Fehlers.
Vier Fehlermodi erklären einen Großteil des Problems:
| Fehler | Was passiert | Erkennungsfrage | Gegenzug |
|---|---|---|---|
| Sykophanz | Das Modell neigt zu der Sicht, die Sie signalisieren | Würde sich die Antwort ändern, wenn ich behauptete, das Gegenteil zu bevorzugen? | Die Präferenz ausblenden und die Frage neutral neu formulieren |
| Festhalten am Rahmen | Ihre Frage schließt bessere Optionen aus | Welche Annahme hat meine Formulierung unverhandelbar gemacht? | Zuerst alternative Problemrahmen entwickeln |
| Flüssige Sprache | Klarer Text wirkt wie ein starker Beleg | Welcher Satz hängt von einer Quelle oder Messung ab? | Aussagen, Belege und Schlussfolgerungen trennen |
| Ausgelagertes Urteil | Die Empfehlung wird zur Entscheidung | Wer trägt die Folgen und trifft die endgültige Entscheidung? | Die eigene Entscheidung notieren, bevor Sie die Empfehlung lesen |
Diese Fehler überschneiden sich, erfordern aber unterschiedliche Gegenmaßnahmen.
1. Sykophanz: Sie sagt Ihnen, was Sie hören möchten
Sykophanz bezeichnet die Tendenz, einer vom Nutzer geäußerten Überzeugung oder Präferenz zu folgen, statt eine wahrheitsgemäße und unabhängige Antwort zu priorisieren.
Es handelt sich um ein messbares Modellverhalten und nicht nur um übertriebene Höflichkeit. Anthropic stellte fest, dass mehrere KI-Assistenten ihre Antworten an die Ansichten der Nutzer anpassten und dass menschliche Präferenzdaten überzeugend formulierte Zustimmung belohnen können (Towards Understanding Sycophancy in Language Models). Modellanbieter untersuchen und verringern dieses Verhalten weiter. So berichtet OpenAI im GPT-5 System Card über Verbesserungen in Tests auf Sykophanz.
Verbesserungen beseitigen das Risiko nicht. Ihr Gespräch kann weiterhin starke Signale enthalten:
- „Ich denke, Option A ist offensichtlich besser.“
- „Meine Mitgründerin übertreibt, oder?“
- „Hilf mir, diesen Plan zu rechtfertigen.“
- „Alle stimmen zu, dass das der richtige Ansatz ist.“
Das sind keine neutralen Bitten um Analyse. Sie geben die gewünschte soziale Reaktion bereits vor.
Gegenmaßnahme: die Präferenz ausblenden
Entfernen Sie Namen, Zuständigkeiten und Ihre bevorzugte Antwort:
Ein kleines Unternehmen hat zwei Optionen.
Option A: [facts, costs, constraints]
Option B: [facts, costs, constraints]
Listen Sie den stärksten Fall gegen jede Option auf.
Benennen Sie fehlende Belege.
Empfehlen Sie keine Option.
Kehren Sie das Präferenzsignal anschließend in einem separaten Chat um:
Nehmen Sie an, die Entscheidungsträgerin bevorzugt derzeit Option B.
Welche Belege würden einen Wechsel zu Option A rechtfertigen?
Welche Belege würden es rechtfertigen, bei Option B zu bleiben?
Ändert sich die Begründung des Modells mit dem Präferenzsignal, obwohl die Fakten gleich bleiben, behandeln Sie die Empfehlung als instabil.
2. Festhalten am Rahmen: Sie löst die falsche Frage
Angenommen, Sie fragen:
Welche KI-Plattform sollten wir kaufen, um den Kundensupport zu automatisieren?
Die Frage nimmt bereits an:
- eine Plattform zu kaufen ist die richtige Intervention;
- Automatisierung ist dem Ändern des Workflows vorzuziehen;
- Kundensupport ist die richtige Grenze;
- und bei der Entscheidung geht es hauptsächlich um die Wahl eines Anbieters.
Eine hilfreiche Antwort kann Plattformen sehr genau vergleichen und dennoch übersehen, dass das Unternehmen unklare Richtlinien, schlechte Dokumentation oder zu wenige wiederkehrende Anfragen hat, um eine Automatisierung zu rechtfertigen.
Modelle sind trainiert, auf die Aufgabe vor ihnen zu reagieren. Sie stoppen und verhandeln die Aufgabe nicht zuverlässig neu.
Gegenmaßnahme: erst Problemrahmen, dann Lösungen
Prüfen Sie zunächst den Problemrahmen:
Lösen Sie dieses Problem noch nicht.
Formulieren Sie es auf fünf inhaltlich deutlich unterschiedliche Weisen neu:
1. als Problem der Kundenerfahrung,
2. als betriebliches Problem,
3. als Problem der Informationsqualität,
4. als Personalproblem und
5. als Entscheidung, vorerst nichts zu tun.
Nennen Sie für jeden Rahmen, welche Belege dafür sprechen würden, dass er der richtige ist.
Wählen Sie den Rahmen selbst. Beginnen Sie erst danach mit der Lösungssuche.
Das ist besonders nützlich, wenn die Frage ein Produkt, eine bevorzugte Methode oder eine dringende Frist enthält. Diese Details werden oft zu unsichtbaren Rahmenbedingungen.
3. Flüssige Sprache: guter Stil wirkt wie ein guter Beleg
Modelle erzeugen vollständige Sätze, auch wenn die zugrunde liegende Stütze unvollständig ist. Die Antwort kann enthalten:
- eine Tatsachenbehauptung, die eine Quelle braucht;
- eine Schätzung, die wie eine gemessene Zahl aussieht;
- eine Schlussfolgerung, die als Beobachtung dargestellt wird;
- und eine Empfehlung, die auf allen dreien aufbaut.
Weil die Prosa konsistent ist, verschwimmen die Schichten.
Gegenmaßnahme: eine Belegübersicht verlangen
Bitten Sie um eine Tabelle:
Zerlegen Sie die Analyse in einzelne Aussagen.
Kennzeichnen Sie jede Aussage als:
- gelieferte Tatsache,
- extern verifizierbare Tatsache,
- Schätzung,
- Schlussfolgerung oder
- Werturteil.
Für extern verifizierbare Fakten geben Sie eine Primärquelle an.
Für Schätzungen zeigen Sie Annahmen.
Zeigen Sie bei Schlussfolgerungen, auf welche Fakten sie sich stützen.
Erfinden Sie keine Quelle, wenn keine verfügbar ist.
Prüfen Sie dann die Primärquellen selbst.
Die Kennzeichnungen sind wichtig, weil jeder Typ auf andere Weise scheitert. Eine von Ihnen gelieferte Tatsache kann schon in der Eingabe falsch gewesen sein. Eine belegte Tatsache kann veraltet sein. Eine Schätzung kann von einer verborgenen Annahme abhängen. Eine Schlussfolgerung kann plausibel und dennoch unsicher sein. Ein Werturteil lässt sich nicht an ein Zitat auslagern.
Für eine breitere Methode nutzen Sie die Verifikationsschritte in Warum KI selbstbewusst falsche Antworten gibt.
4. Ausgelagertes Urteil: Hilfe wird still zur Autorität
Der folgenreichste Fehler passiert nach einer guten Analyse.
Sie bitten das Modell, Optionen zu vergleichen. Es erstellt eine Bewertungsmatrix. Sie fragen nach einer Empfehlung, und es wählt eine Option. Die endgültige Entscheidung wirkt anschließend, als sei sie aus einem neutralen Prozess hervorgegangen.
Aber das Modell trägt nicht:
- die Folgen, wenn die Entscheidung scheitert;
- implizites Wissen, das nie in den Prompt gelangt ist;
- Verantwortung gegenüber Kunden oder Mitarbeitenden;
- persönliche Werte, die sich nicht in einer Punktzahl abbilden lassen;
- ein zuverlässiges Verständnis davon, welche Informationen fehlen.
Die Entscheidung bleibt Ihre, auch wenn das Dokument nicht mehr wie Ihres aussieht.
Gegenzug: Ihr Urteil zuerst schreiben
Bevor Sie die Empfehlung lesen, schreiben Sie:
- welche Option Sie derzeit bevorzugen;
- die drei Fakten, auf denen diese Präferenz beruht;
- was Ihre Meinung ändern würde;
- wer betroffen ist;
- und welcher Zielkonflikt letztlich eine Wertentscheidung ist.
Lassen Sie das Modell diese Notiz anschließend kritisch prüfen:
Prüfen Sie diese Entscheidungsnotiz.
Identifizieren Sie:
- eine Tatsache, die Verifikation braucht,
- eine betroffene Person oder Gruppe, deren Interessen fehlen,
- eine plausible Folge außerhalb des genannten Zeithorizonts,
- und den stärksten Grund, warum meine bevorzugte Option falsch sein kann.
Treffen Sie nicht die endgültige Entscheidung.
Wenn Sie Ihr Urteil vor dem KI-Einsatz festhalten, erkennen Sie außerdem, wann das Modell Ihre Sicht aus gutem Grund verändert. So wird sein Einfluss nützlich und bleibt nicht unsichtbar.
Ein vollständiges Protokoll für den KI-Sparringspartner
Für eine wichtige Entscheidung, die keine besondere Fachqualifikation erfordert, nutzen Sie diese Abfolge:
Schritt 1: die rohe Entscheidungsnotiz schreiben
Nennen Sie die Entscheidung, Rahmenbedingungen, Belege, Unsicherheiten, betroffene Personen und Ihre aktuelle Präferenz.
Polieren Sie sie nicht zuerst mit KI.
Schritt 2: Präferenzsignale entfernen
Erstellen Sie eine neutrale Version der Fakten. Bezeichnen Sie die Optionen nach Möglichkeit als A und B statt als „mein Plan“ und „ihr Plan“.
Schritt 3: den Problemrahmen hinterfragen
Bitten Sie um alternative Problemdefinitionen und die Belege, die jeweils dafür nötig wären.
Schritt 4: die Arten von Aussagen trennen
Erstellen Sie die Belegübersicht. Prüfen Sie wichtige externe Fakten anhand von Primärquellen.
Schritt 5: getrennte kritische Prüfungen durchführen
Nutzen Sie getrennte Durchgänge statt eines einzigen überladenen Prompts:
- skeptische Kundin bzw. skeptischer Kunde;
- für die Umsetzung verantwortliche Person;
- finanzielle Prüferin bzw. Prüfer;
- Datenschutz- oder Sicherheitsprüferin bzw. -prüfer;
- und eine Person, die davon profitiert, wenn nichts verändert wird.
Rollen erzeugen keine Expertise, aber sie ändern, welche Fragen auftauchen.
Schritt 6: ohne den Chat entscheiden
Schließen Sie das Modell. Schreiben Sie die endgültige Entscheidung und warum Sie sie verantworten. Öffnen Sie die Analyse nur erneut, um zu prüfen, ob Sie ein dokumentiertes Risiko ignoriert haben.
Weitere kritische Prompt-Muster finden Sie unter Wie Sie KI ehrlich widersprechen lassen. Einen allgemeinen Entscheidungsablauf beschreibt KI für bessere Entscheidungen.
Wann Sie keinen KI-Sparringspartner nutzen sollten
Nutzen Sie keinen allgemeinen Chatbot als entscheidende Autorität für:
- eine Diagnose- oder Behandlungswahl;
- rechtliche Rechte oder Fristen;
- regulierte Finanzberatung;
- eine unmittelbare Sicherheitssituation;
- eine Entscheidung über das Privatleben einer anderen Person ohne deren Einwilligung;
- oder jede Entscheidung, bei der eine qualifizierte Fachkraft die Belege direkt prüfen muss.
KI darf helfen, Fragen vorzubereiten, Dokumente zu ordnen oder Informationen aus geprüften Quellen zu vergleichen. Sie ersetzt weder die verantwortliche Fachperson noch den Menschen, der die Entscheidung treffen und vertreten muss.
Die ehrliche Grenze
Kein Prompt garantiert unabhängiges Urteil.
Sie können Präferenzsignale reduzieren, Gegenargumente erzeugen, Belege von Schlussfolgerungen trennen und die Verantwortung dokumentieren. Sie können ein Sprachmodell aber nicht von allen Annahmen in seinen Trainingsdaten, Ihrem Prompt und dem Gespräch lösen.
Nutzen Sie das Modell, um den Blickwinkel der Prüfung zu erweitern – nicht, um die Antwort zu zertifizieren.
