Jos pyydät mallia ”tarkistamaan päättelyni” kerrottuasi ensin suosimasi vaihtoehdon, vastaus voi ankkuroitua omaan kehystykseesi. Malli voi toistaa oletuksesi tai tuottaa uskottavia vastaväitteitä hakematta niiden tueksi näyttöä. Kyse ei ole riippumattomasta psykologisesta arviosta.
Kiinteä tarkistuslista, kirjattu lähtömieltymys ja ulkoinen varmistus voivat tehdä harjoituksesta avoimemmin tarkasteltavan kuin yleisluonteinen vahvistuspyyntö. Ne eivät takaa, että arviointi löytää vinouman tai parantaa päätöstä.
Päätöstäsi arvioiva malli ei ole puolueeton erotuomari. Vuoden 2024 esipainostutkimuksessa arvioitiin 30 dokumentoitua vinoumaa 20 suuressa kielimallissa ja löydettiin näyttöä jokaisesta vinoumasta ainakin joissakin testatuissa malleissa. Mukana olivat muun muassa kehystys- ja ankkurointivaikutukset (Malberg ym., 2024). Tutkimus kertoo testatuista malleista ja kehotteista, eikä se osoita kaikkien mallien käyttäytyvän samalla tavalla. Malli voi myös tuottaa uskottavalta kuulostavaa vastanäyttöä, jota se ei ole hakenut mistään lähteestä. Tarkista kaikki tiedot, joiden perusteella aiot toimia.
Arvioi samat kuusi vinoumaa samalla tavalla joka kerta
Käytä kiinteää opetuslistaa sen sijaan, että nojaisit pelkkään avoimeen pyyntöön. Tarkistuslista tekee pyydetyn kattavuuden näkyväksi; se ei pakota oikeaan analyysiin eikä kata kaikkia olennaisia kognitiivisia prosesseja.
| Vinouma | Miltä se näyttää oikeassa päätöksessä | Vastakysymys |
|---|---|---|
| Vahvistusvinouma | Etsit syitä, miksi vaihtoehto on oikea, et syitä miksi se voisi olla väärä | Mitä en etsinyt, koska odotin sen olevan eri mieltä kanssani? |
| Uponneet kustannukset | Jo käytettyä aikaa, rahaa tai vaivaa pidetään perusteena jatkamiselle (Arkes & Blumer, 1985) | Jos aloittaisin tänään ilman aiempaa sijoitusta, valitsisinko tämän vaihtoehdon? |
| Saatavuusheuristiikka | Elävä, tuore esimerkki tuntuu todennäköisemmältä tai tärkeämmältä kuin perustodennäköisyys antaa aihetta päätellä (Tversky & Kahneman, 1974) | Onko tämä todella yleistä vai ainoastaan helpoimmin mieleen tuleva esimerkki? |
| Vallitsevan tilan vinouma | Nykytilaa pidetään huomaamatta oletuksena, ja muutokselta vaaditaan enemmän näyttöä kuin ennallaan pysymiseltä | Jos molemmat vaihtoehdot olisivat minulle tänään uusia, kumpi näyttäisi paremmalta pelkän näytön perusteella? |
| Kehystysvaikutus | Samat tosiseikat herättävät erilaisen mieltymyksen sen mukaan, kuvataanko ne voittona vai tappiona (Tversky & Kahneman, 1981) | Jos kuvaisin vaihtoehdon vastakkaisessa kehyksessä, esimerkiksi kustannuksena säästön sijaan tai riskinä mahdollisuuden sijaan, suosisinko sitä edelleen? |
| Perustodennäköisyyden sivuuttaminen | Yksittäiselle vakuuttavalle tarinalle annetaan enemmän painoa kuin sen taustalla olevalle yleiselle tilastolliselle säännönmukaisuudelle | Mikä on tällaisten tulosten perustodennäköisyys ennen yksittäisen tarinan huomioimista? |
Tämä on opetuskäyttöön koottu joukko, ei tyhjentävä eikä kliinisesti validoitu diagnostinen väline. Se soveltuu vain jäsennettyyn pohdintaan tavanomaisista, seurauksiltaan vähäisistä päätöksistä — ei ihmisen leimaamiseen vinoutuneeksi, oikeustoimikelpoisuuden arviointiin eikä mielentilan arviointiin.
Vaihe 1: kirjaa lähtömieltymyksesi ennen arviointia
Ennen chatin avaamista kirjoita ylös:
- Vaihtoehto, jota tällä hetkellä suosit.
- Kuinka kauan olet suosinut sitä.
- Minkä pitäisi olla totta, jotta muuttaisit mieltäsi.
Vaihe tekee lähtömieltymyksestä näkyvän sen sijaan, että malli päättelisi sen sävystä ja kehystyksestä. Samalla syntyy merkintä, jota voit verrata arvioinnin havaintoihin. Kirjaaminen ei kuitenkaan estä ankkuroitumista tai vahvistusvinoumaa.
Vaihe 2: käytä kiinteää tarkistuslistaa ja vaadi näyttöä
Heikko kehote:
Harkitsen ehdokkaan A ylentämistä ehdokkaan B sijaan. Onko tämä hyvä päätös?
Kehote antaa mallille valmiin kehyksen sanavalintaa ”ylentäminen” ja nimien järjestystä myöten ja pyytää mielipidettä. Mallista ja taustatiedoista riippuen vastaus voi myötäillä kehystä, vastustaa sitä tai lisätä yleisluonteisia varauksia. Mikään näistä ei ole näyttöön perustuva arviointi.
Vahvempi kehote:
Olen jo päättänyt kallistuvani vaihtoehtoon [option]. Älä kerro minulle, onko päätös hyvä.
Arvioi päättelyäni täsmälleen näiden kuuden vinouman avulla: vahvistusvinouma, uponneet kustannukset, saatavuusheuristiikka, vallitsevan tilan vinouma, kehystysvaikutus ja perustodennäköisyyden sivuuttaminen.
Jokaiselle:
1. Lainaa se osa päättelystäni, johon se saattaa soveltua.
2. Kerro, mitä näyttöä en ehkä ole tämän vuoksi vielä tarkistanut.
3. Ehdota yhtä vastanäyttöä, joka paikkansa pitäessään muuttaisi päätökseni. Kerro selvästi, pitääkö minun tarkistaa se ulkoisesta lähteestä vai loitko sen itse uskottavaksi esimerkiksi.
Älä suosittele toista vaihtoehtoa. Älä pehmennä havaintoja näennäisen tasapuolisuuden vuoksi.
Lyhennetty esimerkkitulos päätöksestä jatkaa nykyisen toimittajan kanssa vaihtamisen sijaan:
Uponneet kustannukset: Lainattu perustelu: ”Olemme käyttäneet vuoden tähän integraatioon.” Jo syntynyt meno on uponnut kustannus. Sen tuottama integraatio tai osaaminen voi silti vaikuttaa tuleviin vaihtamisesta, ylläpidosta, uudelleenkoulutuksesta ja menetetyistä vaihtoehdoista aiheutuviin kustannuksiin. Tarkistamatta oleva näyttö: tulevaisuuteen suuntautuva vertailu, jossa aiemmat menot erotetaan jatkamisen ja vaihtamisen tulevista kassavirroista, riskeistä ja hyödyistä. Tarkistettava vastanäyttö: hanki todellinen arvio siirtymä- ja käyttökustannuksista sen sijaan, että käyttäisit jo tehtyä työtä ratkaisevana perusteena.
Vallitsevan tilan vinouma: Nykyistä toimittajaa pidetään oletuksena, josta luopuminen vaatii erityisen perustelun, sen sijaan että molempia vaihtoehtoja arvioitaisiin samalta lähtöviivalta. Tarkistettava vastanäyttö: laadi vertailutaulukko ikään kuin arvioisit kahta uutta toimittajaa, joista kumpikaan ei ole nykyinen kumppani.
Kehystysvaikutus: [Merkitsee kohdan, jossa päätös kuvattiin ”vaihtamisen riskin välttämisenä” eikä ”jatkamisen vaihtoehtoiskustannuksena”. Tosiseikat ovat samat, mutta kehys on erilainen ja voi muuttaa mieltymystä. Tämä on mallin luoma esimerkki kehystysvaikutuksen merkitsemisestä, ei omaa tapaustasi koskeva varmistettu tosiseikka.]
Huomaa, että malli erotti ulkoista tarkistamista vaativan vastanäytön havainnollistavasta esimerkistä. Vaadi tämä erottelu, jotta mallin luomia tilanteita ei pidetä lähteistä haettuina tosiseikkoina.
Vaadi mallia erottamaan jokaisessa havainnossa ”ulkoisesti tarkistettava näyttö” ja ”mallin luoma havainnollistava päättely”. Jos malli ei tee tätä oma-aloitteisesti, lisää neljäs ohje: ”Merkitse jokainen vastanäyttö joko [verify] tai [illustrative].” Käsittele merkitsemätöntä tulosta oletusarvoisesti havainnollistavana ja tarkista se itse ennen kuin annat sen vaikuttaa mihinkään.
Vaihe 3: kirjaa vastanäyttö ennen päätökseen sitoutumista
Kerää jokaiseen olennaiseen vinoumahavaintoon liittyvä vastanäyttö sen sijaan, että hyväksyisit mallin uskottavalta kuulostavan kuvauksen. Ulkoinen tarkistaminen erottaa tämän työnkulun täysin tuotetusta kritiikistä. Sekään ei kuitenkaan takaa näytön kattavuutta tai oikeaa tulkintaa.
Lyhyt taulukko toimii hyvin:
| Havaittu vinouma | Tarvittava vastanäyttö | Tarkistettu? | Muuttaako päätöstä? |
|---|---|---|---|
| Uponneet kustannukset | Todellinen arvio siirtymäkustannuksista kahdelta toimittajalta | Kyllä — sain tarjoukset | Ei, kustannus oli oletettua pienempi mutta silti olennainen |
| Vallitseva tila | Nollapohjainen vertailutaulukko | Kyllä | Hieman — nykyinen toimittaja johtaa edelleen kahdella viidestä arviointiperusteesta |
| Kehystys | Muotoile päätös vastakkaisessa kehyksessä, tarkista mieltymys uudelleen | Kyllä | Ei, mieltymys piti molemmissa kehyksissä |
Jos mieltymys säilyy olennaisen vastanäytön tarkistamisen jälkeen, perustelu on alkuperäistä lähtömieltymystä näkyvämpi mutta ei välttämättä oikea tai kattava. Jos mieltymys muuttuu, kirjaa muutoksen aiheuttanut näyttö. Älä anna tarkistuslistalle yksin kunniaa parannuksesta ilman vertailua.
Mihin auditointia ei ole tarkoitettu
Prosessi on tarkoitettu tekemään oletuksia ja puuttuvaa näyttöä näkyvämmiksi. Tässä artikkelissa ei osoiteta sen parantavan mitään yksittäistä päätöstä. Se ei korvaa toimiala-asiantuntemusta, eikä sillä pidä luoda huolellisuuden vaikutelmaa päätökseen, joka vaatii asiantuntijaa. Merkittävä oikeudellinen, lääketieteellinen tai taloudellinen ratkaisu edellyttää pätevää ammattilaista. Vinoumien arviointi voi korkeintaan auttaa valmistautumaan, ei korvata asiantuntijaa. Päätöksenteon hygienia stressissä käsittelee tilannetta, jossa ajoitus tai tunnetila edellyttää erilaisia rajoja.
Älä käytä harjoitusta mielenterveysarvion, kriisiavun, turvallisuutta suojaavan toiminnan tai pakon tai kaltoinkohtelun alaisena tehtävän päätöksenteon korvikkeena. Jos pelko, mania, vakava masennus, itsetuhoisuus, päihtymys tai muu akuutti tila voi heikentää arviointikykyä, keskeytä tekoälyharjoitus ja ota yhteyttä asianmukaiseen laillistettuun ammattilaiseen tai hätäpalveluun. Mallin esittämä perustelu ei ole arvio henkilön päätöksentekokyvystä.
Harjoitus ei myöskään ulkoista vastuuta. Jos käytät arviointia, kirjauksen pitää osoittaa ihmisen tarkistaneen havaitut vinoumat ja vastanäytön sekä tehneen päätöksen. Väite ”tekoäly vahvisti, ettei vinoumaa ollut” on luokkavirhe. Se, ettei malli löytänyt päättelystä vinoumaa, ei todista vinouman puuttumista. Kehote ei ehkä haastanut päättelyä riittävästi, tai mallin omassa arviossa voivat vaikuttaa samat vinoumat.
Toinen, riippumaton tarkistuskierros
Yksi malliajo lisää yhden mallin virheet omiesi päälle. Vertaa tulosta kollegaan, joka ei ole nähnyt lähtömieltymystäsi, tai panosten sitä vaatiessa pätevään toimiala-asiantuntijaan. Uusi mallikeskustelu voi vähentää keskusteluhistoriasta syntyvää ankkuroitumista, mutta sekään ei ole riippumaton asiantuntija ja voi toistaa keskenään korreloivia virheitä. Tutki sekä yhteneviä että eriäviä näkemyksiä näytön avulla. Erimielisyys ei yksin tarkoita vaihtoehtojen olevan tasaväkisiä. Miten saat tekoälyn olemaan kanssasi eri mieltä esittelee yhden tavan tuottaa vastaväitteitä, ei todistaa niiden riippumattomuutta.
Mitä arviointi ei voi todistaa
Malli ei ole päättelysi vinoumaton arvioija. Se on toinen osallistuja, jolla on dokumentoitu taipumus samoihin kehystysvaikutuksiin, saatavuusvirheisiin ja ankkurointiin, joita sen pyydetään etsimään päättelystäsi. Käsittele jokaista havaittua vinoumaa tarkistettavana johtolankana, jokaista vastanäyttöä tarkistettavana väitteenä ja jokaista ”vinoumaa ei löytynyt” -tulosta ratkaisemattomana, ei puhtaana tuloksena.
Arvioinnin tavoiteltu arvo on sen rakenteessa, ei ennustuskyvyssä. Kiinteä lista tekee pyydetystä kattavuudesta näkyvän ja toistettavan. Sitä, löytääkö lista enemmän kuin avoin arviointipyyntö, pitää tutkia eikä olettaa. Havaintojen merkityksen arviointi ja vastuu lopullisesta ratkaisusta säilyvät päätöksen omistavalla nimetyllä ihmisellä tai pätevällä ammattilaisella.
Alla oleva arviointilomake yhdistää kuuden vinouman tarkistuslistan, vastanäyttötaulukon ja tarkistettu/havainnollistava-merkintäsarakkeen yhdeksi uudelleenkäytettäväksi sivuksi jo alustavasti suosimasi päätöksen arviointiin.
