”Haasta ajatteluani” kuulostaa vahvalta kehotteelta.
Se tuottaa usein heikon tuloksen: kolme kohteliasta varaumaa, kehu huolellisesta päättelystäsi ja sama suositus, josta lähdit liikkeelle.
Ongelma on rakenteellinen. Malli on jo nähnyt kehystyksesi, suosimasi vastauksen ja usein senkin argumentin, jota haluat sen kritisoivan. Pyyntö ”ole kriittinen” ei poista näitä vihjeitä.
Hyödyllinen erimielisyys syntyy siitä, että muutat sitä, mitä tietoa mallilla on käytössään ja missä järjestyksessä.
Alla olevat viisi mallia ovat käytännön tapoja tehdä juuri se. Yksikään niistä ei tee chatbotista riippumatonta asiantuntijaa. Jokainen tekee yhdestä epäonnistumistavasta helpommin havaittavan.
Malli 1: häivytä mieltymys näkyvistä
Mieltymysvihjeet houkuttelevat samanmielisyyteen. Poista ne.
Heikko kehote:
Haluan siirtää tiimimme työkalusta A työkaluun B.
Auta minua koettelemaan suunnitelmaa.
Malli tietää, mikä johtopäätös olisi sosiaalisesti mieluisin.
Vahvempi kehote:
Kymmenen hengen tiimi vertaa kahta vaihtoehtoa.
Vaihtoehto A
- [nykyiset tosiasiat]
- [kustannukset]
- [rajoitteet]
Vaihtoehto B
- [nykyiset tosiasiat]
- [kustannukset]
- [rajoitteet]
Älä suosittele kumpaakaan vaihtoehtoa.
Tunnista kummastakin:
1. vahvin syy, miksi se voisi epäonnistua,
2. tärkein puuttuva todiste,
3. ehto, jonka täyttyessä siitä tulee parempi vaihtoehto.
Älä kirjoita ”nykyinen järjestelmämme” tai ”moderni korvaaja”. Pienikin nimitys sisältää jo arvion.
Milloin tämä auttaa
- toimittajavalinnat;
- palkkaaminen vai ulkoistaminen;
- itse tekeminen vai ostaminen;
- prosessin säilyttäminen vai korvaaminen;
- tai mikä tahansa valinta, jossa sinulla on jo suosikki.
Mitä se ei ratkaise
Sinä valitsit faktat. Nimetönkin vertailu voi vinoutua sen mukaan, mitä jätit pois.
Malli 2: erota puolustaja ja kriitikko
Yksi ainoa vastaus taipuu helposti kompromissiin: yksi argumentti, yksi varauma ja tasapainoinen johtopäätös.
Aja sen sijaan erilliset kierrokset, joilla on keskenään yhteensopimattomat tehtävät.
Kierros A:
Rakenna vahvin todisteisiin perustuva perustelu vaihtoehdon A puolesta.
Älä käsittele vaihtoehtoa B.
Kerro jokainen oletus ja tunnista, mistä todisteita puuttuu.
Kierros B, uudessa keskustelussa:
Rakenna vahvin todisteisiin perustuva perustelu vaihtoehdon B puolesta.
Älä käsittele vaihtoehtoa A.
Kerro jokainen oletus ja tunnista, mistä todisteita puuttuu.
Kierros C:
Vertaa näitä kahta argumenttia.
Älä palkitse kaunopuheisuutta tai pituutta.
Listaa:
- väitteet, joita annetut faktat tukevat,
- väitteet, jotka vaativat ulkoisen varmistuksen,
- oletukset, jotka ovat keskenään ristiriidassa,
- ja yksi koe, joka pienentäisi suurinta epävarmuutta.
[liitä molemmat argumentit]
Erilliset keskustelut vähentävät keskustelun aikana syntyvää ankkuroitumista. Ne eivät luo aitoa riippumattomuutta – kierrokset voivat yhä nojata samoihin koulutuksesta opittuihin kaavoihin – mutta ne estävät jälkimmäistä roolia vain reagoimasta ensimmäisen roolin sanamuotoon.
Malli 3: vaadi todisteita ennen argumenttia
Jos pyydät ensin vakuuttavaa perustelua, malli voi tuottaa siihen sopivia väitteitä ja liittää tuen niihin vasta jälkikäteen.
Käännä järjestys:
Ennen mielipiteen muodostamista luo näyttötaulukko.
Kirjaa jokaisesta päätöskriteeristä:
- annetut faktat,
- tarvittavat ensisijaiset lähteet,
- arviot ja niiden taustaoletukset,
- tuntemattomat tekijät,
- ja todisteet, jotka kumoaisivat kunkin vaihtoehdon.
Älä suosittele mitään, ennen kuin olen tarkistanut näyttötaulukon ja palauttanut sen sinulle.
Anna tarkistuksen jälkeen vain korjattu taulukko ja pyydä sitten analyysi.
Tämä on hitaampaa kuin välittömän suosituksen pyytäminen. Kun vastauksella on väliä, hitaus kuuluu tarkoituksella prosessiin.
Hyödyllinen pysäytyssääntö
Jos suurin epävarmuus voisi kääntää päätöksen, älä pyydä lopullista suositusta. Suunnittele testi, hanki mittaustulos tai kysy siltä ihmiseltä, jolla puuttuva tieto on.
Malli 4: nimeä kriittinen tarkastaja ja rajaa hänen kohteensa
”Ole paholaisen asianajaja” on liian epämääräinen. Anna tarkastajalle konkreettinen kohta, josta etsiä vikoja.
Esimerkkejä:
Tarkasta tämä suunnitelma vain toiminnallisten häiriöiden osalta.
Oleta, että strategia on järkevä.
Etsi kohdat, joista puuttuu vastuuhenkilö, seuranta, palautus edelliseen tilaan tai ylläpito.
Tarkasta tämä ehdotus vain sen työntekijän näkökulmasta, jota se koskee.
Tunnista, mitkä väitetyistä hyödyistä hyödyttävät johtoa eivätkä työntekijää.
Nosta esiin lupaukset, joita yritys ei voi todentaa tai pitää.
Tarkasta tämä tietovirta vain tietosuojariskien osalta.
Listaa jokainen tietoluokka, kohde, säilytyspaikka ja henkilö, joka pääsee tietoihin.
Älä anna oikeudellisia päätelmiä.
Kapeasti rajattu kriittinen tarkastus on hyödyllisempi kuin teatraalinen hyökkäävyys. ”Ole raa’an rehellinen” muuttaa vain sävyä; rajattu tarkastuskohde muuttaa sitä, mitä ylipäätään käydään läpi.
Teetä useita kapeita tarkastuksia, kun päätöksen merkitys sitä edellyttää. Pidä niiden havainnot erillään, kunnes päätät, mitkä riskeistä ovat todellisia.
Malli 5: käytä riippumatonta toista kierrosta
Aja sama neutraali toimeksianto läpi:
- uudessa keskustelussa, jolla ei ole historiaa;
- toisessa malliperheessä;
- tai ihmistarkastajalla, joka ei ole nähnyt suosimaasi vastausta.
Vertaa sitten erimielisyyksiä:
Kaksi tarkastajaa analysoi saman päätöksen.
Tarkastaja 1:
[paste]
Tarkastaja 2:
[paste]
Luo erimielisyysrekisteri:
- kysymys,
- kummankin tarkastajan väite,
- todisteet, joihin kumpikin nojaa,
- puuttuvat todisteet,
- ja se vastuuhenkilö, joka voi ratkaista asian.
Älä valitse voittajaa itsevarmuuden tai kirjoitustyylin perusteella.
Kahden mallin yksimielisyys ei ole vahvistus. Malleilla voi olla samat lähteet, samat vakiintuneet mallit ja samat sokeat pisteet. Hyödyllinen tuotos on erimielisyysrekisteri ja ne todisteet, jotka se kehottaa keräämään.
Käytännön esimerkki: laskujen käsittelyn automatisointi
Oletetaan, että alkuperäinen suunnitelma on:
Meidän pitäisi käyttää tekoälyagenttia lukemaan toimittajien laskut, syöttämään ne kirjanpito-ohjelmistoon ja ohjaamaan ne maksuun.
Yleisluontoinen haastekehote tuottaa todennäköisesti vain ennalta arvattavia varaumia tarkkuudesta ja ihmisen valvonnasta.
Käytä sen sijaan viittä mallia.
1. Neutraloi vaihtoehdot
- Vaihtoehto A: pidä manuaalinen syöttö ja paranna tarkistuslistaa.
- Vaihtoehto B: käytä determinististä poimintaa ja sen päälle ihmisen tarkastusta.
- Vaihtoehto C: käytä agenttia, joka poimii, syöttää ja ohjaa.
- Vaihtoehto D: lykkää hanketta ja yhdenmukaista ensin toimittajien laskumuodot.
2. Erota puolustajat
Jokainen vaihtoehto saa oman vahvimman perustelunsa ja siihen kirjatut oletukset.
3. Rakenna näyttötaulukko
Kerää:
- kuukausittainen laskumäärä;
- nykyinen käsittelyaika;
- korjausaste;
- standardimuotojen prosenttiosuus;
- kaksoiskappale- ja petoslaskujen arvo ja yleisyys;
- integraatio-oikeudet;
- ja kuka vastaa poikkeustapauksista.
4. Teetä kapeat kriittiset tarkastukset
- talouden kontrollit;
- toiminnan palautuminen häiriöstä;
- toimittajan tietosuoja;
- ja työntekijän työnkulku.
5. Vertaa riippumattomia kierroksia
Yksi tarkastaja voi keskittyä työvoimasäästöihin. Toinen voi huomata, että nykyisestä prosessista puuttuu luotettava täsmäytys ostotilaukseen, jolloin automaatio on ennenaikaista.
Paras lopputulos ei välttämättä ole vahvempi perustelu tekoälyn puolesta tai vastaan. Se voi olla kahden viikon mittausjakso, joka tekee päätöksen selväksi.
Kolme tapaa, joilla erimielisyydestä tulee tekaistua
Malli keksii vastaväitteitä
Kaikki vasta-argumentit eivät ole uskottavia. Vaadi, että vastaväite nimeää sen oletuksen tai todisteen, jota se haastaa.
Malli optimoi symmetriaa
Kaikki valinnat eivät ole tasaväkisiä. Yhden vaihtoehdon tueksi voi olla paljon vahvemmat todisteet. Älä vaadi yhtä montaa argumenttia puolesta ja vastaan, vaan vaadi olennaisia huomioita.
Mallista tulee itsevarman vastahankainen
Kehote voi saada mallin vastustamaan aivan kaikkea. Vastahankainenkin tuotos on silti generoitua tuotosta. Se vaatii saman varmistuksen kuin myötäilevä tuotos.
Tutkimuksissa on dokumentoitu myötäilyä eri tekoälyavustajissa ja osoitettu, miten mieltymysvihjeet voivat vaikuttaa mallin vastauksiin (Anthropicin myötäilytutkimus). Suojakeino ei ole mikään taikasana, vaan prosessi, joka karsii mieltymysvihjeitä ja tekee todisteet näkyviksi.
Kopioitava erimielisyysjakso
Käytä tätä tärkeään päätökseen:
Vaihe 1 – kehys
Muotoile ongelma uudelleen kolmella olennaisesti eri tavalla.
Älä ratkaise sitä.
Vaihe 2 – todisteet
Erota toisistaan annetut faktat, todennettavat faktat, arviot, päätelmät ja arvovalinnat.
Listaa ne todisteet, jotka voisivat kääntää päätöksen.
Vaihe 3 – perustelut
Rakenna vahvin perustelu kullekin vaihtoehdolle erikseen.
Kerro oletukset ja ehdot, joissa vaihtoehto pettää.
Vaihe 4 – tarkastus
Aja kapeat tarkastukset toiminnan, päätöksen kohteena olevien ihmisten, tietoturvan ja tietosuojan sekä kustannusten näkökulmasta.
Vaihe 5 – päätöksenteon tuki
Luo erimielisyysrekisteri ja ehdota pienintä mahdollista käytännön testiä.
Älä tee lopullista päätöstä.
Tämän jakson taustalla olevista epäonnistumistavoista kerrotaan artikkelissa ajattelukumppanin neljä epäonnistumistapaa. Laajempi työnkulku on artikkelissa parempia päätöksiä tekoälyn avulla.
Rehellinen raja
Voit saada tekoälyn tuottamaan erimielisyyttä. Et voi saada sitä tietämään, että olet väärässä.
Malli voi tuottaa saman virheellisen oletuksen eri suunnasta. Se voi viitata vanhentuneeseen lähteeseen. Se voi kuulostaa riippumattomalta vain siksi, että vaihdoit roolin nimen.
Kohtele erimielisyyttä etsintätyökaluna: se nostaa esiin oletuksia, unohtuneita sidosryhmiä ja kerättäviä todisteita. Lopullinen harkinta kuuluu edelleen sille ihmiselle, joka ymmärtää asiayhteyden ja kantaa seuraukset.
