Når du beder en model om at »tjekke min ræsonnering« efter at have angivet, hvilken mulighed du foretrækker, kan svaret blive forankret i din egen fremstilling. Modellen kan gentage dine antagelser eller formulere plausible indvendinger uden at hente dokumentation. Det er ikke en uafhængig psykologisk vurdering.
En fast tjekliste, en tydelig angivelse af din oprindelige præference og ekstern kontrol kan gøre øvelsen mere efterprøvbar end en åben anmodning om bekræftelse. Det garanterer ikke, at gennemgangen finder bias eller forbedrer beslutningen.
En model, der gennemgår din beslutning, er ikke en neutral dommer. Et preprint fra 2024 undersøgte 30 dokumenterede former for bias på tværs af 20 store sprogmodeller og fandt tegn på hver af dem i mindst nogle af de testede modeller, herunder indramnings- og forankringseffekter (Malberg et al., 2024). Studiet siger noget om de modeller og prompts, der blev testet, ikke at alle modeller opfører sig ens. En model kan desuden formulere plausibel modstridende dokumentation, som den aldrig har hentet. Kontrollér alt, du vil handle på.
Seks former for bias, kontrolleret på samme måde hver gang
Brug en fast undervisningstjekliste i stedet for udelukkende at stille en åben anmodning. Tjeklisten gør det synligt, hvilke områder modellen er blevet bedt om at dække. Den tvinger ikke analysen til at være korrekt og omfatter ikke alle relevante kognitive processer.
| Bias | Sådan ser den ud i en reel beslutning | Modspørgsmålet |
|---|---|---|
| Bekræftelsesbias | Du søgte efter grunde til, at muligheden er rigtig, men ikke efter grunde til, at den kan være forkert | Hvad undlod jeg at undersøge, fordi jeg forventede, at det ville tale imod min opfattelse? |
| Sunk cost | Tid, penge eller indsats allerede brugt behandles som en grund til at fortsætte (Arkes & Blumer, 1985) | Hvis jeg startede i dag med nul tidligere investering, ville jeg så vælge dette? |
| Tilgængelighedsheuristik | Et levende, nyligt eksempel føles mere sandsynligt eller vigtigt, end grundfrekvensen tilsiger (Tversky & Kahneman, 1974) | Er dette faktisk almindeligt eller blot det eksempel, jeg lettest kan huske? |
| Status quo-bias | Den nuværende tilstand bliver den underforståede standard, og forandring mødes med et højere dokumentationskrav end at fortsætte | Hvis begge muligheder var nye for mig i dag, hvilken ville så se bedst ud alene på baggrund af dokumentationen? |
| Indramningseffekt | De samme fakta skaber forskellige præferencer, alt efter om de beskrives som en gevinst eller et tab (Tversky & Kahneman, 1981) | Hvis jeg beskrev muligheden med den modsatte indramning, omkostning i stedet for besparelse eller risiko i stedet for mulighed, ville jeg så stadig foretrække den? |
| Tilsidesættelse af grundfrekvensen | En konkret og overbevisende historie vægtes højere end det generelle statistiske mønster, den tilhører | Hvad er grundfrekvensen for denne type resultat, før jeg tilføjer den konkrete historie? |
Dette er et undervisningssæt, ikke et udtømmende eller klinisk valideret diagnoseværktøj. Det er kun egnet til struktureret refleksion over almindelige beslutninger med begrænsede konsekvenser, ikke til at stemple en person som påvirket af bias eller vurdere vedkommendes habilitet eller mentale tilstand.
Trin 1: Skriv din præference ned før gennemgangen
Før du åbner en chat, skriv ned:
- Den mulighed, du i øjeblikket hælder til.
- Siden hvornår du har hældt den vej.
- Hvad der skulle være sandt, for at du ændrede mening.
Trinnet gør din oprindelige præference tydelig i stedet for at lade modellen udlede den af tone og indramning. Det skaber et udgangspunkt, som du kan sammenligne med gennemgangens resultater, men det forhindrer ikke forankring eller bekræftelsesbias.
Trin 2: Brug den faste tjekliste med krav om dokumentation
Svag prompt:
Jeg overvejer at forfremme kandidat A frem for kandidat B. Er det en god beslutning?
Denne prompt overtager din indramning, blandt andet ordet »forfremme« og rækkefølgen af navnene, og beder om en mening. Afhængigt af model og kontekst kan svaret gentage indramningen, modsige den eller tilføje generelle forbehold. Ingen af delene er en dokumentationsbaseret gennemgang.
Stærkere prompt:
Jeg har allerede besluttet, at jeg hælder til [option]. Fortæl mig ikke, om beslutningen er god.
Gennemgå min ræsonnering ud fra præcis disse seks former for bias: bekræftelsesbias, sunk cost, tilgængelighedsheuristik, status quo-bias, indramningseffekt og tilsidesættelse af grundfrekvensen.
For hver:
1. Citér den specifikke del af min ræsonnering, hvor den kan gælde.
2. Angiv, hvilken dokumentation jeg endnu ikke har undersøgt på grund af den.
3. Foreslå ét stykke modstridende dokumentation, der ville ændre min beslutning, hvis det var sandt. Angiv tydeligt, om jeg skal kontrollere det eksternt, eller om du selv har genereret det som et plausibelt eksempel.
Anbefal ikke den anden mulighed. Blødgør ikke fund for at virke afbalanceret.
Illustrativt eksempelresultat (forkortet) for en beslutning om at beholde en eksisterende leverandør frem for at skifte:
Sunk cost: Citeret ræsonnering: »Vi har investeret et år i denne integration.« Den afholdte udgift er tabt, men integrationen eller den kompetence, den har skabt, kan stadig påvirke fremtidige omkostninger til skifte, vedligeholdelse og oplæring samt alternativomkostninger. Dokumentation, der endnu ikke er undersøgt: en fremadrettet sammenligning, som adskiller tidligere udgifter fra de kommende pengestrømme, risici og fordele ved at blive eller skifte. Modstridende dokumentation, der skal kontrolleres: Indhent et reelt estimat for migration og drift i stedet for at bruge den allerede afholdte indsats som den afgørende begrundelse.
Status quo-bias: Den nuværende leverandør behandles som standarden, der kræver en begrundelse for at blive fravalgt, i stedet for at begge muligheder vurderes fra nul. Modstridende dokumentation, der skal kontrolleres: Opstil sammenligningstabellen, som om begge leverandører var nye, og ingen af dem var den nuværende.
Indramningseffekt: [markerer en linje, hvor beslutningen blev beskrevet som »at undgå risikoen ved at skifte« i stedet for »alternativomkostningen ved at blive«. Det er de samme fakta med forskellig indramning og muligvis en anden præference. Dette er et genereret eksempel på, hvordan markeringen kan se ud, ikke et kontrolleret faktum om din konkrete situation.]
Bemærk, at modellen tydeligt skelner mellem modstridende dokumentation, der skal kontrolleres eksternt, og et illustrativt eksempel. Kræv denne skelnen, så genererede scenarier ikke bliver forvekslet med hentede fakta.
Kræv, at modellen i hvert fund adskiller »dokumentation, der skal kontrolleres eksternt« fra »illustrativ ræsonnering, som modellen har genereret«. Hvis den ikke gør det af sig selv, skal du tilføje en fjerde instruktion: »Mærk hvert punkt med modstridende dokumentation som [verify] eller [illustrative].« Behandl umærkede resultater som illustrative, og kontrollér dem selv, før de får betydning for en beslutning.
Trin 3: Indhent modstridende dokumentation, før du lægger dig fast
Indhent den relevante modstridende dokumentation for hver væsentlig markering i stedet for at acceptere modellens plausible udgave. Ekstern kontrol adskiller denne arbejdsgang fra en rent genereret kritik, men garanterer ikke, at dokumentationen er fuldstændig eller fortolket korrekt.
En kort tabel fungerer godt:
| Markerede bias | Nødvendig modstridende dokumentation | Kontrolleret? | Ændrer beslutningen? |
|---|---|---|---|
| Sunk cost | Reelt estimat for migrationsomkostninger fra to leverandører | Ja, tilbud indhentet | Nej, omkostningen var lavere end antaget, men stadig væsentlig |
| Status quo | Sammenligningstabel opstillet fra nul | Ja | Lidt, den nuværende leverandør er stadig foran på to af fem kriterier |
| Indramning | Beskriv beslutningen med den modsatte indramning, og kontrollér præferencen igen | Ja | Nej, præferencen var den samme med begge indramninger |
Hvis præferencen består, efter at den relevante modstridende dokumentation er kontrolleret, er beslutningsgrundlaget tydeligere end den oprindelige præference, men ikke nødvendigvis korrekt eller fuldstændigt. Hvis præferencen ændrer sig, skal du registrere, hvilken dokumentation der ændrede den. Tilskriv ikke forbedringen til tjeklisten alene uden en sammenligning.
Hvad gennemgangen ikke er beregnet til
Processen skal gøre antagelser og manglende dokumentation mere synlige. Artiklen godtgør ikke, at den forbedrer en bestemt beslutning. Den erstatter ikke fagkundskab og bør ikke bruges til at give en beslutning et skær af stringens, når den faktisk kræver en specialist. En væsentlig juridisk, medicinsk eller finansiel beslutning kræver en kvalificeret fagperson. Biasgennemgangen kan højst være en forberedelse, ikke en erstatning. Beslutningshygiejne under stress behandler den beslægtede situation, hvor tidspres eller følelsesmæssig tilstand kan kræve en anden grænse.
Brug ikke øvelsen som erstatning for en vurdering af mental sundhed, krisestøtte, beskyttelse af udsatte eller beslutninger under tvang eller overgreb. Hvis frygt, mani, svær depression, selvmordstanker, påvirkning af rusmidler eller en anden akut tilstand kan svække dømmekraften, skal AI-øvelsen sættes på pause. Kontakt en relevant autoriseret fagperson eller alarmtjeneste. Et argument fra en model er ikke en vurdering af en persons beslutningsevne.
Det er heller ikke en måde at overlade ansvaret til andre. Hvis gennemgangen bruges, skal dokumentationen vise, at et menneske vurderede de markerede bias, kontrollerede den modstridende dokumentation og traf beslutningen. Formuleringen »AI bekræftede, at der ikke var bias« er en kategorifejl. At modellen ikke finder bias, beviser ikke, at den er fraværende. Prompten kan have været for lidt udfordrende, eller de samme bias kan findes i både din og modellens vurdering.
En anden, uafhængig gennemgang
En enkelt modelkørsel lægger modellens fejl oven på dine egne. Sammenlign derfor resultatet med en kollega, som ikke kender din præference, eller med en kvalificeret fagperson, når konsekvenserne kræver det. En ny modelsamtale kan mindske forankring i den tidligere samtale, men modellen er ikke en uafhængig ekspert og kan gentage korrelerede fejl. Undersøg både enighed og uenighed ud fra dokumentationen. Uenighed betyder ikke i sig selv, at valget er tæt. Sådan får du AI til at være uenig med dig beskriver én måde at fremkalde modargumenter på, ikke en måde at dokumentere uafhængighed.
Hvad gennemgangen ikke kan fastslå
En model er ikke en biasfri kontrollant af din ræsonnering. Den er en anden deltager med dokumenterede tendenser til de samme indramnings-, tilgængeligheds- og forankringsfejl, som den bliver bedt om at finde hos dig. Behandl hver markering som et spor, der skal undersøges, hvert stykke modstridende dokumentation som en påstand, der skal kontrolleres, og hvert resultat med »ingen bias fundet« som uafklaret snarere end godkendt.
Gennemgangens tilsigtede værdi er strukturel, ikke orakulær: En fast liste gør den ønskede dækning synlig og kan gentages. Om den finder mere end en åben gennemgang, skal undersøges, ikke antages. Vurderingen af, hvad resultaterne betyder, og ansvaret for den endelige beslutning forbliver hos det navngivne menneske eller den kvalificerede fagperson, der ejer beslutningen.
Gennemgangsskemaet nedenfor samler tjeklisten med seks former for bias, tabellen til modstridende dokumentation og en kolonne til mærkning som kontrolleret eller illustrativ på én genbrugelig side til beslutninger, du allerede hælder til.
