Om du ber en modell att ”kontrollera mitt resonemang” efter att ha angett vilket alternativ du föredrar kan svaret förankras i din egen inramning. Modellen kan upprepa antaganden eller ge plausibla invändningar utan att hämta evidens. Svaret är ingen oberoende psykologisk bedömning.
En fast checklista, ett uttryckligt ursprungligt ställningstagande och extern verifiering kan göra övningen mer granskningsbar än en öppen begäran om bekräftelse. De garanterar inte att granskningen upptäcker bias eller förbättrar beslutet.
En modell som granskar ditt beslut är ingen neutral domare. En preprint från 2024 som utvärderade 30 dokumenterade typer av bias i 20 stora språkmodeller rapporterade evidens för varje typ i åtminstone några testade modeller, bland annat inramnings- och förankringseffekter (Malberg et al., 2024). Studien är evidens om de testade modellerna och prompterna, inte bevis för att alla modeller beter sig likadant. En modell kan också skapa plausibla motbevis som aldrig hämtades. Verifiera allt du tänker agera på.
Sex typer av bias, kontrollerade på samma sätt varje gång
Använd en fast undervisningslista i stället för att enbart förlita dig på en öppen begäran. Checklistan gör den begärda täckningen synlig. Den tvingar inte fram en korrekt analys och täcker inte alla relevanta kognitiva processer.
| Bias | Hur det ser ut i ett verkligt beslut | Motfrågan |
|---|---|---|
| Bekräftelsebias | Du sökte efter skäl till att alternativet är rätt, inte skäl till att det kan vara fel | Vad letade jag inte efter för att jag förväntade mig att det skulle motsäga mig? |
| Sunk cost | Tid, pengar eller ansträngning som redan lagts behandlas som skäl att fortsätta (Arkes & Blumer, 1985) | Om jag började i dag med noll tidigare investering, skulle jag välja det här? |
| Tillgänglighetsheuristik | Ett levande exempel från den senaste tiden känns mer sannolikt eller viktigt än vad basfrekvensen stödjer (Tversky & Kahneman, 1974) | Är det här faktiskt vanligt, eller bara exemplet jag minns lättast? |
| Status quo-bias | Nuvarande läge är det implicita standardvalet, och förändring hålls till en högre evidensribba än att stanna | Om båda alternativen var nya för mig i dag, vilket skulle se bättre ut enbart på evidensen? |
| Inramningseffekt | Samma fakta, beskrivna som vinst kontra förlust, ger olika preferenser (Tversky & Kahneman, 1981) | Om jag omformulerade det här alternativet i den motsatta ramen — kostnad i stället för besparing, risk i stället för möjlighet — skulle jag fortfarande föredra det? |
| Basfrekvensförsummelse | En specifik, övertygande historia viktas över det allmänna statistiska mönstret den tillhör | Vad är basfrekvensen för utfall som det här, innan jag lägger till den specifika historien? |
Det här är en undervisningsuppsättning, inte ett uttömmande eller kliniskt validerat diagnostiskt instrument. Den lämpar sig bara för strukturerad reflektion över vanliga beslut med små konsekvenser, inte för att stämpla en person som partisk eller bedöma beslutsförmåga eller psykiskt tillstånd.
Steg 1: skriv ner vilket alternativ du lutar åt före granskningen
Innan du öppnar en chatt, skriv ner:
- Alternativet du för närvarande lutar åt.
- Sedan när du har lutat åt det hållet.
- Vad som skulle behöva vara sant för att du ska ändra dig.
Det här steget gör den ursprungliga preferensen uttrycklig i stället för att låta modellen härleda den ur ton och inramning. Det skapar ett underlag som du kan jämföra med granskningens fynd, men underlaget förhindrar inte förankring eller bekräftelsebias.
Steg 2: kör den fasta checklistan med evidenskrav
Svag prompt:
Jag överväger att befordra Kandidat A framför Kandidat B. Är det här ett bra beslut?
Den här prompten lämnar över din inramning (ordet ”befordra”, ordningen på namnen) och ber om en åsikt. Beroende på modell och sammanhang kan svaret spegla inramningen, invända mot den eller lägga till allmänna reservationer. Inget av de utfallen är en evidensgranskning.
Starkare prompt:
Jag har redan beslutat att jag lutar åt [alternativ]. Säg inte till mig om beslutet är bra.
Granska mitt resonemang mot exakt dessa sex typer av bias: bekräftelsebias, sunk cost, tillgänglighetsheuristik, status quo-bias, inramningseffekt, basfrekvensförsummelse.
För varje:
1. Citera den specifika delen av mitt resonemang där den kan gälla.
2. Ange vilken evidens jag ännu inte kontrollerat på grund av den.
3. Föreslå ett motbevis som, om det vore sant, skulle ändra mitt beslut — och ange uttryckligen om jag behöver verifiera det eller om du genererade det som ett plausibelt exempel.
Rekommendera inte det andra alternativet. Mjuka inte upp fynd för att verka balanserad.
Illustrerande exempel på resultat (förkortat), för ett beslut att behålla en befintlig leverantör i stället för att byta:
Sunk cost: Resonemang citerat: ”vi har investerat ett år i den här integrationen.” Utgiften som redan uppstått är en sunk cost, men integrationen eller förmågan den skapade kan fortfarande påverka framtida kostnader för byte, underhåll, omskolning och alternativ. Evidens ännu inte kontrollerad: en framåtblickande jämförelse som skiljer tidigare utgifter från framtida kassaflöden, risker och nyttor för att stanna respektive byta. Motbevis att kontrollera: skaffa en faktisk uppskattning av migrations- och driftskostnader i stället för att använda den insats som redan lagts som avgörande skäl.
Status quo-bias: Den nuvarande leverantören behandlas som standardvalet som kräver motivering för att lämna, snarare än att båda alternativen utvärderas från noll. Motbevis att kontrollera: bygg jämförelsetabellen som om du utvärderar två nya leverantörer och ingen av dem redan vore den befintliga leverantören.
Inramningseffekt: [flaggar en rad där beslutet inramades som ”undvika risken med byte” snarare än ”alternativkostnaden av att stanna” — samma fakta, olika ram, sannolikt en annan preferens. Detta är en genererad illustration av hur en inramningsflagga skulle se ut, inte ett verifierat faktum om ditt specifika fall.]
Notera att modellen uttryckligen skiljde motbevis som behöver extern verifiering från illustrerande exempel. Kräv den åtskillnaden så att genererade scenarier inte misstas för hämtade fakta.
Kräv att modellen skiljer ”evidens att verifiera externt” från ”illustrerande resonemang den genererade” i varje fynd. Om den inte gör det själv, lägg till en fjärde instruktion: ”Märk varje motbevispost som [verify] eller [illustrative].” Behandla omärkta resultat som illustrativa som standard och kontrollera dem själv innan de ändrar något.
Steg 3: samla in motbevis innan du bestämmer dig
Samla relevant motbevis för varje materiell biasflagga i stället för att acceptera modellens plausibla version. Extern verifiering skiljer arbetsflödet från en helt genererad kritik, men garanterar inte att evidensen är fullständig eller korrekt tolkad.
En kort tabell fungerar bra:
| Typ av bias som flaggats | Motbevis som behövs | Verifierat? | Ändrar beslutet? |
|---|---|---|---|
| Sunk cost | Faktisk migrationskostnadsuppskattning från två leverantörer | Ja — fick offerter | Nej, kostnaden var lägre än antaget men fortfarande materiell |
| Status quo | Nollbaserad jämförelsetabell | Ja | Lite — den befintliga leverantören ligger fortfarande före på två av fem kriterier |
| Inramning | Omformulera beslutet i motsatt ram, kontrollera preferens igen | Ja | Nej, preferensen höll under båda ramarna |
Om preferensen består efter att relevanta motbevis har kontrollerats är underlaget tydligare än den ursprungliga lutningen, inte nödvändigtvis korrekt eller fullständigt. Om preferensen ändras, dokumentera vilken evidens som ändrade den. Tillskriv inte förbättringen till checklistan ensam utan en jämförelse.
Vad granskningen inte är till för
Processen är utformad för att göra antaganden och evidensluckor mer synliga. Artikeln visar inte att den förbättrar ett visst beslut. Den ersätter inte sakkunskap inom området och ska inte användas för att skapa ett sken av stringens kring ett beslut som behöver en specialist. Ett betydande juridiskt, medicinskt eller finansiellt ärende behöver en kvalificerad yrkesperson, och biasgranskningen kan bara vara en möjlig förberedelse inför samtalet. Beslutshygien under stress behandlar det relaterade fallet där tidpunkt eller känslotillstånd kan kräva en annan gräns.
Använd inte övningen som ersättning för bedömning av psykisk hälsa, krisstöd, skyddsåtgärder eller beslut under tvång eller övergrepp. Om rädsla, mani, svår depression, suicidalitet, berusning eller ett annat akut tillstånd kan försämra omdömet, pausa AI-övningen och kontakta en lämplig legitimerad yrkesperson eller räddningstjänst. Ett argument från en modell är ingen bedömning av beslutsförmåga.
Det är heller inte ett sätt att lägga över ansvaret på någon annan. Om granskningen används ska dokumentationen visa att en människa granskade de flaggade typerna av bias, kontrollerade motbevisen och fattade beslutet — inte att ”AI bekräftade att det inte fanns någon bias”, vilket är ett kategorifel. Att en modell inte hittar bias i ditt resonemang är inte bevis på att bias saknas. Det kan bara betyda att granskningsprompten inte sökte motargument tillräckligt aktivt, eller att samma bias som finns i ditt resonemang också finns i modellens bedömning av det.
Ett andra, oberoende pass
Eftersom en enda modellkörning lägger modellens fel ovanpå dina bör du jämföra resultatet med en kollega som inte har sett vilket alternativ du föredrar, eller med en kvalificerad expert på området när beslutets konsekvenser kräver det. En ny modellchatt kan minska förankringen i samtalet, men den är ingen oberoende expert och kan upprepa korrelerade fel. Granska vad enigheten och oenigheten bygger på. Oenighet betyder inte i sig att alternativen är jämna. Så får du AI att vara oenig med dig beskriver ett sätt att få fram motargument, inte att intyga oberoende.
Vad granskningen inte kan intyga
En modell är inte en opartisk granskare av ditt resonemang. Den är en annan deltagare med dokumenterade tendenser till samma inramningseffekter, fel som följer av tillgänglighetsheuristiken och förankring som den ombeds leta efter hos dig. Behandla varje typ av bias som flaggas som ett spår att verifiera, varje motbevis som ett påstående att kontrollera och varje resultat av typen ”ingen bias hittad” som ofullständigt snarare än som ett rent besked.
Granskningens avsedda värde ligger i strukturen, inte i att den fungerar som ett orakel: en fast lista gör den begärda täckningen synlig och upprepningsbar. Om den fångar mer än en öppen granskning är något att utvärdera, inte anta. Omdömet om vad fynden betyder och ansvaret för det slutliga beslutet stannar hos den namngivna person eller kvalificerade yrkesperson som äger beslutet.
Granskningsschemat nedan samlar checklistan med sex typer av bias, tabellen för motbevis och en kolumn där varje post märks ”[verify]” eller ”[illustrative]” på en återanvändbar sida för beslut du redan lutar åt.
