Kun ihminen jää ensimmäisen kerran kiinni tekoälyn vakuuttavasta virheestä — tekaistusta oikeusviitteestä, keksitystä lainauksesta tai kirjailijasta tai hieman väärästä verosäännöstä — hän oppii tärkeän asian. Malli ei ollut hämmentynyt eikä sillä ollut huono päivä. Se teki juuri sen, mitä se oli suunniteltu tekemään. Käyttäjä vain esitti kysymyksen, johon tuo toimintatapa tuotti väärän vastauksen.
Kyse ei ole kuvitteellisesta riskistä. Tapauksessa Mata v. Avianca (2023) juristit toimittivat tuomioistuimelle ChatGPT:n tuottamia olemattomia oikeustapauksia. Tuomioistuin määräsi seuraamuksia tutkittuaan sekä virheelliset asiakirjat että asianajajien toiminnan. Toissijaisen selostuksen sijasta voit lukea tuomioistuimen 22. kesäkuuta 2023 antaman lausunnon ja määräyksen.
Tässä harvinaisessa tekoälyaiheessa mekanismin ymmärtämisellä on merkitystä. Kun ymmärrät hallusinaatioiden syntytavan, ne eivät enää yllätä sinua etkä joudu yhtä helposti niiden harhauttamaksi.
Virallinen termi
Ilmiötä, jossa ”tekoäly tuottaa vakuuttavasti väärän vastauksen”, kutsutaan yleisesti hallusinaatioksi. Termi on epätäydellinen, koska malli ei todellisuudessa näe mitään. Malli vain tuottaa sujuvaa, uskottavaa ja väärää tekstiä.
Käytännön asia on tärkeä sisäistää: hallusinaatiot eivät ole pelkästään tilapäinen tuotevirhe. Ne syntyvät uskottavan kielen tuottamisen ja totuuden tarkistamisen välisestä erosta. Varaudu niihin ja suunnittele toimintasi niiden mukaan. Älä oleta, että seuraava malliversio poistaa tarkistamisen tarpeen.
Miksi hallusinaatioita syntyy
Jotta kielimalli osaisi ennustaa seuraavan sanan hyvin, sen on omaksuttava valtava määrä kielen rakenteita: kielioppia, faktoja, keskustelutapoja sekä esimerkiksi lääkärinlausunnon ja sosiaalisen median julkaisun eroja. Kun esität kysymyksen, malli tuottaa jatkon, joka sopii tilastollisesti sen oppimiin malleihin.
Ongelma on tämä: tuotettuun vastaukseen ei liity luotettavaa ja tarkasteltavissa olevaa totuussignaalia. Malleja voidaan kouluttaa ilmaisemaan epävarmuutta, ja ne voivat käyttää hakua tai muita työkaluja, mutta itsevarma tai varovainen sävy ei silti todista väitettä oikeaksi. Kun luotettavaa tietoa on vähän — esimerkiksi harvinaisesta oikeustapauksesta, tuoreesta tapahtumasta, vähän tunnetusta henkilöstä tai täsmällisestä luvusta — malli voi tuottaa uskottavalta kuulostavan mutta väärän vastauksen.
Käytännössä mallilla on vahva mekanismi todennäköisen jatkon tuottamiseen ja heikompi mekanismi jatkon todenperäisyyden osoittamiseen. Yleisissä aiheissa nämä osuvat usein yhteen. Erikoistuneessa, tuoreessa, omistusoikeudellisessa tai täsmällisessä aineistossa ne erkanevat.
Älä pidä varmuutta, viimeisteltyä ulkoasua tai vastauksen pituutta todisteena. Väärä tekoälyvastaus voi olla oikeaa lähdeasiakirjaa paremmin muotoiltu.
Missä hallusinaatioita esiintyy useimmin
Toimintamalli toistuu kaikissa nykyisissä tekoälyavustajissa. Hallusinaatioita syntyy eniten, kun niiltä pyydetään:
- Täsmällisiä nimiä, päivämääriä, lukuja tai lainauksia. ”Kuka sanoi X:n?” ”Minä vuonna Y julkaistiin?” ”Mainitse kolme Z:aa koskevaa tutkimusta.” Tilastolliset mallit tuottavat erinomaisesti lähdeviitteen muodon mutta epäluotettavasti sen todelliset tiedot.
- Erikoistuneita tai vähän tunnettuja aiheita. Koulutusdataa voi olla vähän pienistä yrityksistä, harvinaisista sairauksista, alueellisista säännöistä ja muista kuin julkisuuden henkilöistä. Mitä vähemmän dataa on, sitä suuremmaksi kasvaa ”uskottavan” ja ”toden” välinen ero.
- Tuoreita tapahtumia. Malleilla on koulutusdatan määräpäivä. Jos kysyt sen jälkeisestä tapahtumasta eikä malli hae aktiivisesti verkosta, se joko sanoo ”en ole varma”, mikä on hyvä tulos, tai arvaa.
- Yrityksesi omistusoikeudellisia tietoja. Mallilla ei ole asiakasluetteloasi, koodikantaasi, sopimuksiasi tai sisäisiä tietojasi. Niistä kysyttäessä se tuottaa sisältöä, joka voisi näyttää kyseisiltä tiedoilta.
- Matematiikkaa ja täsmällistä päättelyä. Monivaiheinen laskenta, yksikkömuunnokset, taloudelliset laskelmat ja kaikki tehtävät, joissa pieni virhe kertautuu. Mallit suoriutuvat aiempaa paremmin etenkin silloin, kun ne voivat käyttää laskintyökalua, mutta ne eivät vielä ole luotettavia suurta tarkkuutta vaativissa korkean riskin tehtävissä.
Kaava on selvä: malli epäonnistuu ennakoitavasti, kun pyydät jotakin täsmällistä antamatta sille luotettavaa lähdettä.
Missä asiavirheet ovat vähemmän keskeisiä mutta silti mahdollisia
Joissakin tehtävissä muistista palautettavien faktojen merkitys on vähäisempi, mikä pienentää yhdenlaista hallusinaatioriskiä:
- Tekstin luonnostelu ja jäsentäminen. Tehtävä ei edellytä faktoja.
- Oman tekstisi uudelleenmuotoilu ja muokkaaminen. Totuuden lähteenä on antamasi teksti.
- Antamasi asiakirjan tiivistäminen. Malli voi lainata ja tiivistää edessään olevaa sisältöä, mutta se voi silti jättää olennaisia varauksia pois tai liittää väitteen väärään lähteeseen. Vertaa tärkeitä tiivistelmiä alkuperäiseen aineistoon.
- Ideointi ja ajatusten tuottaminen. Ei ole olemassa yhtä ”oikeaa” vastausta, jonka malli voisi hallusinoida väärin.
- Tunnettujen käsitteiden selittäminen. Yleisistä aiheista saadut vastaukset voivat olla harvinaisia aiheita luotettavampia, mutta nekin on tarkistettava, kun täsmällisyydellä on merkitystä.
Nämä ovat vähäriskisempiä käyttötapoja, eivät tosiasioita koskevia takuita. Harvinaisiin asioihin liittyvät täsmälliset faktat vaativat erityistä tarkkuutta, mutta tavalliset tiivistelmät ja selityksetkään eivät ole virheiltä suojassa.
Kolme suojaavaa toimintatapaa
Ansan välttämiseen ei tarvita koneoppimisen tohtorintutkintoa. Tarvitset kolme tapaa.
1. Pidä täsmällistä väitettä lähtökohtana, älä viimeisenä sanana
Jos malli antaa nimen, päivämäärän, luvun, lähdeviitteen, säännöksen tai lainauksen ja tiedolla on merkitystä, tarkista se. Nopea haku, vertailu lähdeasiakirjaan tai jatkokysymys ”mistä löysit tämän, lainaa tarkka kohta” paljastaa useimmat ongelmat. Mitä lyhyempi ja täsmällisempi vastaus on, sitä tärkeämpi tarkistus on.
Erityisen hyödyllinen jatkokysymys on: ”Mikä lähde vahvistaisi tämän, ja mitkä täsmälliset väitteet minun pitäisi tarkistaa?” Kysymys ei todista vastausta oikeaksi, mutta muuttaa laajan vastauksen tarkistuslistaksi.
2. Käytä hakua, kun vastauksen pitää olla ajantasainen tai tarkistettavissa
Kaikissa suurissa tekoälyavustajissa on nykyään verkkohaku. ChatGPT:ssä on Search-painike, Claude käyttää hakua monissa tehtävissä ja Geminissä se on sisäänrakennettu. Ota haku käyttöön aina, kun kysyt ajankohtaisista tai tosiasioihin perustuvista asioista. Malli toimii huomattavasti luotettavammin, koska se voi viitata todellisiin lähteisiin, ja saat itse tarkistettavia linkkejä.
Yleinen virhe on esittää tutkimuskysymys perusmallille ja luottaa vastaukseen. Oikea tapa on avata uusi keskustelu, ottaa haku käyttöön ja kysyä vasta sitten. Se vaatii vain yhden ylimääräisen napsautuksen.
3. Anna lähde sen sijaan, että pyytäisit mallia muistamaan
Jos sinulla on asiakirja, liitä se. Jos sinulla on dataa, liitä laskentataulukko. Jos sinulla on alkuperäinen sähköposti, lisää se mukaan. Malli on huomattavasti luotettavampi tiivistäessään tai analysoidessaan antamaasi sisältöä kuin yrittäessään palauttaa tietoja koulutuksesta.
Heikko: ”Mitä Viron työlainsäädäntö sanoo koeajasta?”
Parempi: ”Tässä on Viron työsopimuslain koeaikaa koskeva kohta [liitä]. Selitä, mitä se tarkoittaa kuuden kuukauden sopimuksessa.”
Ensimmäinen kehote on hallusinaatioansa. Toinen perustuu todelliseen tekstiin, joten mallin on helpompi pysyä täsmällisenä.
Lähteiden tarkistamisen työnkulku
Kun vastauksella on merkitystä, tee seuraavat asiat ennen sen käyttämistä:
- Merkitse täsmälliset väitteet. Nimet, päivämäärät, hinnat, lainaukset, lähdeviitteet, oikeudelliset ja lääketieteelliset väitteet sekä tarkat luvut.
- Pyydä tarkistuskohteet. ”Mitkä vastauksesi väitteet minun pitäisi tarkistaa, ja mikä lähde vahvistaisi kunkin niistä?”
- Tarkista ensisijainen lähde. Suosi yhteenvetojen sijasta virallisia ohjeita, alkuperäisiä säädöksiä, tuotesivuja, viranomaisilmoituksia, sopimuksia tai lähdeasiakirjoja.
- Korvaa väitteet, joille ei löydy tukea. Jos et pysty tarkistamaan väitettä nopeasti, poista se, merkitse se epävarmaksi tai muotoile se kysymykseksi.
- Tallenna lähdelinkki. Sinun pitää pystyä myöhemmin selvittämään, mistä vastaus on peräisin.
Artikkeliin liitetty tarkistuslista muuttaa tämän nopeaksi jatka–pysäytä-arvioinniksi.
Hyödyllinen poikkeus: kun hallusinaatio sopii tarkoitukseen
Joskus haluat mallin keksivän asioita — se on koko tehtävän tarkoitus. Kaunokirjallisuus, ideointi, hypoteettiset tilanteet, testien reunatapaukset, luovat muunnelmat ja ”miltä tämän perustelun huonoin versio näyttäisi” -kehotteet ovat tällaisia. Luovassa työssä hallusinaatio ei ole virhe vaan ominaisuus. ”Anna viisi uskottavalta kuulostavaa yritysnimeä” on hyvä käyttötapa, kun taas ”anna viisi todellista X:ää tekevää yritystä” on ansa.
Entä mallipäivitykset?
Uudemmat mallit hallusinoivat keskimäärin vanhoja vähemmän, etenkin yleisissä aiheissa. Erikoistuneessa päässä — harvinaisissa tapauksissa, tuoreissa tapahtumissa ja omistusoikeudellisissa yksityiskohdissa — jopa parhaat vuoden 2026 mallit keksivät edelleen asioita vakuuttavasti. Älä oleta seuraavan julkaisun ratkaisevan ongelmaa. Hallusinaatioiden rakenteellinen syy ei ole muuttunut.
Pieni turvallisuuden tarkistuslista
Ennen kuin luotat tekoälyvastaukseen, kysy:
- Sisältääkö vastaus nimiä, päivämääriä, lukuja, lainauksia, lähdeviitteitä, lakeja, hintoja, lääketieteellisiä neuvoja tai taloudellisia väitteitä?
- Onko aihe tuore, erikoistunut, paikallinen, omistusoikeudellinen tai suuren riskin aihe?
- Käyttikö malli hakua, annettua lähdettä, tietokantaa tai laskinta?
- Pystynkö osoittamaan väitettä tukevan virkkeen, taulukon tai tietueen lähteestä?
Jos vastaus kohtaan 1 tai 2 on kyllä ja vastaus kohtaan 3 tai 4 on ei, hallusinaation riski on olemassa. Tarkista ennen toimimista.
Tapa, jolla hallusinaatiot saa kiinni
Hallusinaatiot eivät jakaudu tasaisesti. Ne aiheuttavat tavallista todennäköisemmin haittaa täsmällisten nimien, päivämäärien ja lukujen, vähän tunnettujen aiheiden, tuoreiden tapahtumien, yksityisten tietojen ja tarkkojen laskelmien yhteydessä. Luonnostelu ja ideointi vähentävät muistista palautettavien faktojen tarvetta, mutta tiivistelmät ja selitykset voivat silti vääristää lähdettä.
Opettele tunnistamaan ne: tarkista yksityiskohdat, käytä faktakysymyksissä ajantasaisia lähteitä ja anna mallille lähde sen sijaan, että luottaisit sen muistiin. NIST:n generatiivisen tekoälyn riskiprofiili käsittelee konfabulaatiota hallittavana riskinä, jota sujuva tuloste ei ratkaise.
