„Stelle mein Denken in Frage“ klingt nach einem starken Prompt.
Er führt häufig zu einem schwachen Ergebnis: drei höflichen Vorbehalten, einem Kompliment für Ihre sorgfältige Begründung und derselben Empfehlung wie zu Beginn.
Das Problem ist strukturell. Das Modell kennt bereits Ihren Deutungsrahmen, Ihre bevorzugte Antwort und häufig auch das Argument, das es kritisieren soll. Die Bitte, „kritisch zu sein“, entfernt diese Signale nicht.
Nützlicher Widerspruch entsteht, wenn Sie die Informationslage und die Abfolge ändern, die dem Modell zur Verfügung stehen.
Die folgenden fünf Muster zeigen praktische Wege dorthin. Keines macht einen Chatbot zu einer unabhängigen Fachperson. Jedes macht einen Fehlermodus leichter erkennbar.
Muster 1: die Präferenz ausblenden
Präferenzsignale laden zum Zustimmen ein. Entfernen Sie sie.
Schwacher Prompt:
Ich möchte mit unserem Team von Tool A zu Tool B wechseln.
Hilf mir, den Plan einem Belastungstest zu unterziehen.
Das Modell erkennt, welche Schlussfolgerung Ihnen vermutlich gefallen würde.
Stärkerer Prompt:
Ein zehnköpfiges Team vergleicht zwei Optionen.
Option A
- [current facts]
- [costs]
- [constraints]
Option B
- [current facts]
- [costs]
- [constraints]
Empfehlen Sie keine Option.
Identifizieren Sie für jede:
1. den stärksten Grund, warum sie scheitern könnte,
2. die wichtigsten fehlenden Belege,
3. die Bedingung, unter der sie zur besseren Option wird.
Schreiben Sie nicht „unser aktuelles System“ oder „der moderne Ersatz“. Schon kurze Bezeichnungen können ein Urteil vorwegnehmen.
Wann das hilft
- Wahl eines Anbieters;
- Einstellen versus Outsourcing;
- Eigenentwicklung oder Einkauf;
- einen Prozess behalten versus ersetzen;
- oder jede Wahl, bei der Sie bereits einen Favoriten haben.
Was es nicht löst
Sie haben die Fakten ausgewählt. Ein blinder Vergleich kann weiterhin durch das verzerrt sein, was Sie weggelassen haben.
Muster 2: Befürworter und Kritiker trennen
Eine einzelne Antwort tendiert zum Kompromiss: ein Argument, ein Vorbehalt und eine ausgewogene Schlussfolgerung.
Nutzen Sie getrennte Durchgänge mit unvereinbaren Aufgaben.
Durchgang A:
Formulieren Sie das stärkste beleggestützte Argument für Option A.
Diskutieren Sie Option B nicht.
Nennen Sie jede Annahme und zeigen Sie, wo Belege fehlen.
Durchgang B in einem neuen Chat:
Formulieren Sie das stärkste beleggestützte Argument für Option B.
Diskutieren Sie Option A nicht.
Nennen Sie jede Annahme und zeigen Sie, wo Belege fehlen.
Durchgang C:
Vergleichen Sie diese zwei Argumente.
Belohnen Sie weder Eloquenz noch Länge.
Listen Sie:
- Aussagen, die durch gelieferte Fakten gestützt sind,
- Aussagen, die extern geprüft werden müssen,
- Annahmen, die kollidieren,
- und ein Experiment, das die größte Unsicherheit reduzieren würde.
[paste both arguments]
Getrennte Chats verringern die Verankerung im bisherigen Gesprächsverlauf. Sie schaffen keine echte Unabhängigkeit, denn die Durchgänge können weiterhin ähnlichen Trainingsmustern folgen. Sie verhindern aber, dass die zweite Rolle nur auf die Formulierung der ersten reagiert.
Muster 3: Belege vor dem Argument verlangen
Bitten Sie zuerst um ein überzeugendes Argument, kann das Modell passende Behauptungen erzeugen und erst anschließend Belege anfügen.
Kehren Sie die Reihenfolge um:
Bevor Sie sich eine Meinung bilden, erstellen Sie eine Belegtabelle.
Erfassen Sie für jedes Entscheidungskriterium:
- gelieferte Fakten,
- benötigte Primärquellen,
- Schätzungen und ihre Annahmen,
- Unbekannte,
- und Belege, die die jeweilige Option widerlegen würden.
Empfehlen Sie nichts, bis ich die Belegtabelle geprüft und zurückgegeben habe.
Nach der Verifikation liefern Sie nur die korrigierte Tabelle und bitten um Analyse.
Das ist langsamer, als sofort eine Empfehlung zu verlangen. Wenn die Entscheidung wichtig ist, ist diese Verzögerung ein Vorteil.
Eine nützliche Stoppregel
Könnte die größte Unsicherheit die Entscheidung umkehren, bitten Sie nicht um eine endgültige Empfehlung. Entwerfen Sie einen Test, erheben Sie einen Messwert oder fragen Sie die Person, die über die fehlende Information verfügt.
Muster 4: eine kritische Prüfung mit engem Auftrag festlegen
„Spielen Sie Advocatus Diaboli“ ist zu vage. Geben Sie der prüfenden Rolle eine klar begrenzte Fehlerkategorie.
Beispiele:
Prüfen Sie diesen Plan nur auf operative Fehler.
Nehmen Sie an, die Strategie sei vernünftig.
Zeigen Sie, wo Zuständigkeit, Überwachung, Rollback oder Wartung fehlen.
Prüfen Sie diesen Vorschlag nur aus der Perspektive der betroffenen Mitarbeitenden.
Identifizieren Sie, welche behaupteten Vorteile Vorteile für das Management statt für die Mitarbeitenden sind.
Kennzeichnen Sie Versprechen, die das Unternehmen nicht prüfen oder halten kann.
Prüfen Sie diesen Datenfluss nur auf Datenschutzrisiken.
Listen Sie jede Datenklasse, jedes Ziel, jeden Aufbewahrungsort und jede Person mit Zugriff auf.
Geben Sie keine rechtlichen Schlüsse.
Eine eng abgegrenzte kritische Prüfung ist nützlicher als theatralische Härte. „Brutal ehrlich“ ändert nur den Ton; ein klarer Prüfbereich ändert die Abdeckung.
Nutzen Sie mehrere eng abgegrenzte Prüfungen, wenn die Tragweite es rechtfertigt. Halten Sie die Ergebnisse getrennt, bis Sie beurteilt haben, welche Risiken real sind.
Muster 5: einen unabhängigen zweiten Durchgang nutzen
Führen Sie dasselbe neutrale Briefing durch:
- ein neues Gespräch ohne bisherigen Verlauf;
- eine zweite Modellfamilie;
- oder eine menschliche Prüferin, die die bevorzugte Antwort nicht gesehen hat.
Vergleichen Sie dann Widersprüche:
Zwei Personen haben dieselbe Entscheidung unabhängig voneinander analysiert.
Prüfung 1:
[paste]
Prüfung 2:
[paste]
Erstellen Sie ein Widerspruchsregister:
- Streitpunkt,
- Aussage aus jeder Prüfung,
- Belege, auf die sie sich jeweils stützt,
- fehlende Belege,
- und die verantwortliche Person, die den Punkt klären kann.
Wählen Sie keinen Gewinner nach Sicherheit oder Schreibqualität.
Übereinstimmung zwischen zwei Modellen ist keine Bestätigung. Modelle können Quellen, Konventionen und blinde Flecken teilen. Nützlich sind das Widerspruchsregister und die Hinweise darauf, welche Belege Sie noch sammeln müssen.
Ausgearbeitetes Beispiel: Rechnungsverarbeitung automatisieren
Angenommen, der ursprüngliche Plan lautet:
Wir sollten einen KI-Agenten nutzen, um Lieferantenrechnungen zu lesen, sie in die Buchhaltungssoftware einzugeben und zur Zahlung weiterzuleiten.
Ein allgemeiner Prüf-Prompt kann vorhersehbare Vorbehalte zu Genauigkeit und menschlicher Aufsicht liefern.
Nutzen Sie stattdessen die fünf Muster.
1. Die Optionen neutralisieren
- Option A: manuelle Eingabe behalten und die Checkliste verbessern.
- Option B: deterministische Extraktion plus menschliche Prüfung nutzen.
- Option C: einen Agenten nutzen, der extrahiert, eingibt und weiterleitet.
- Option D: das Projekt verschieben und zuerst Lieferantenformate standardisieren.
2. Argumente getrennt entwickeln
Für jede Option wird das jeweils stärkste Argument mit ausdrücklich genannten Annahmen entwickelt.
3. Die Belegtabelle erstellen
Sammeln:
- monatliches Rechnungsvolumen;
- aktuelle Bearbeitungszeit;
- Korrekturrate;
- Anteil Standardformate;
- Wert und Häufigkeit doppelter oder betrügerischer Rechnungen;
- Integrationsberechtigungen;
- und wer für Ausnahmen zuständig ist.
4. Eng abgegrenzte kritische Prüfungen durchführen
- Finanzkontrolle;
- Wiederherstellung des Betriebs;
- Datenschutz im Umgang mit Lieferantendaten;
- und Arbeitsablauf der Beschäftigten.
5. Unabhängige Durchgänge vergleichen
Eine Prüferin konzentriert sich vielleicht auf die Zeitersparnis. Eine andere bemerkt womöglich, dass im aktuellen Prozess Rechnungen nicht zuverlässig mit Bestellungen abgeglichen werden und eine Automatisierung deshalb verfrüht ist.
Das beste Ergebnis ist möglicherweise kein überzeugenderes Argument für oder gegen KI, sondern eine zweiwöchige Messung, die die Entscheidung offensichtlich macht.
Drei Arten, wie Widerspruch unecht wird
Das Modell erfindet Einwände
Nicht jedes Gegenargument ist plausibel. Verlangen Sie, dass der Einwand die Annahme oder den Beleg nennt, den er infrage stellt.
Das Modell strebt nach Symmetrie
Manche Entscheidungen sind nicht ausgewogen. Eine Option kann deutlich besser belegt sein. Verlangen Sie nicht gleich viele Pro- und Contra-Punkte, sondern wesentliche Einwände.
Das Modell widerspricht selbstsicher allem
Ein Prompt kann das Modell dazu bringen, allem zu widersprechen. Auch ein widersprechender Text ist ein generierter Text und braucht dieselbe Prüfung wie eine gefällige Antwort.
Forschung hat Sykophanz bei verschiedenen KI-Assistenten dokumentiert und gezeigt, wie Präferenzsignale Modellantworten beeinflussen können (Anthropics Forschung zu Sykophanz). Die Gegenmaßnahme ist keine Zauberformel, sondern ein Prozess, der Präferenzsignale reduziert und Belege sichtbar macht.
Eine direkt nutzbare Abfolge für Widerspruch
Nutzen Sie das für eine wichtige Entscheidung:
Phase 1 – Problemrahmen
Formulieren Sie das Problem auf drei inhaltlich deutlich unterschiedliche Weisen neu.
Lösen Sie es nicht.
Phase 2 – Belege
Trennen Sie gelieferte Fakten, verifizierbare Fakten, Schätzungen, Schlussfolgerungen und Werte.
Listen Sie die Belege auf, die die Entscheidung umkehren könnten.
Phase 3 – Argumente
Formulieren Sie das stärkste Argument für jede Option separat.
Nennen Sie Annahmen und die Bedingungen, unter denen die jeweilige Option scheitert.
Phase 4 – Prüfung
Führen Sie eng abgegrenzte Prüfungen zu Betrieb, betroffenen Personen, Sicherheit beziehungsweise Datenschutz und Kosten durch.
Phase 5 – Entscheidungshilfe
Erstellen Sie ein Widerspruchsregister und schlagen Sie den kleinsten realen Test vor.
Treffen Sie nicht die endgültige Entscheidung.
Mehr zu den Fehlern hinter dieser Abfolge lesen Sie unter Ihre KI stimmt Ihnen zu oft zu. Den umfassenderen Ablauf beschreibt KI für bessere Entscheidungen.
Die ehrliche Grenze
Sie können eine KI Widerspruch erzeugen lassen. Sie können aber nicht bewirken, dass sie erkennt, ob Sie falschliegen.
Das Modell kann dieselbe fehlerhafte Annahme aus einem anderen Blickwinkel wiederholen. Es kann eine veraltete Quelle zitieren. Es kann unabhängig klingen, nur weil Sie die Rollenbezeichnung geändert haben.
Behandeln Sie Widerspruch als Suchwerkzeug: Er macht Annahmen, fehlende betroffene Gruppen und noch zu sammelnde Belege sichtbar. Das endgültige Urteil bleibt bei der Person, die den Kontext versteht und die Folgen trägt.
