Kun ihminen jää ensimmäisen kerran kiinni tekoälyn vakuuttavasta virheestä — tekaistusta oikeusviitteestä, keksitystä lainauksesta tai kirjailijasta tai hieman väärästä verosäännöstä — hän oppii tärkeän asian. Malli ei ollut hämmentynyt eikä sillä ollut huono päivä. Se teki juuri sen, mitä se oli suunniteltu tekemään. Käyttäjä vain esitti kysymyksen, johon tuo toimintatapa tuotti väärän vastauksen.
Kyse ei ole kuvitteellisesta riskistä. Tunnetuimmassa varhaisessa tapauksessa, Mata v. Avianca (2023), kaksi newyorkilaista juristia jätti tuomioistuimelle kirjelmän, jossa viitattiin kuuteen olemattomaan ennakkotapaukseen. ChatGPT oli keksinyt tapaukset vakuuttavine lainauksineen ja lähdeviitteineen, ja liittovaltion tuomari määräsi juristeille seuraamuksia. He pyysivät uskottavuutta tuottavalta koneelta ennakkotapauksia ja saivat juuri sitä, mitä se on rakennettu tuottamaan: uskottavaa tekstiä.
Tässä harvinaisessa tekoälyaiheessa mekanismin ymmärtämisellä on merkitystä. Kun ymmärrät hallusinaatioiden syntytavan, ne eivät enää yllätä sinua etkä joudu yhtä helposti niiden harhauttamaksi.
Virallinen termi
Ilmiötä, jossa ”tekoäly tuottaa vakuuttavasti väärän vastauksen”, kutsutaan yleisesti hallusinaatioksi. Termi on epätäydellinen, koska malli ei todellisuudessa näe mitään. Malli vain tuottaa sujuvaa, uskottavaa ja väärää tekstiä.
Käytännön asia on tärkeä sisäistää: hallusinaatiot eivät ole pelkästään tilapäinen tuotevirhe. Ne syntyvät uskottavan kielen tuottamisen ja totuuden tarkistamisen välisestä erosta. Varaudu niihin ja suunnittele toimintasi niiden mukaan. Älä oleta, että seuraava malliversio poistaa tarkistamisen tarpeen.
Miksi hallusinaatioita syntyy
Jotta kielimalli osaisi ennustaa seuraavan sanan hyvin, sen on omaksuttava valtava määrä kielen rakenteita: kielioppia, faktoja, keskustelutapoja sekä esimerkiksi lääkärinlausunnon ja sosiaalisen median julkaisun eroja. Kun esität kysymyksen, malli tuottaa jatkon, joka sopii tilastollisesti sen oppimiin malleihin.
Ongelma on tämä: järjestelmässä ei ole sisäistä ”en tiedä” -hälytystä. Malli on koulutettu tuottamaan uskottava jatko, ei tarkistettu vastaus. Usein uskottava ja oikea osuvat yhteen, koska koulutusdata sisältää oikeaa tietoa yleisistä aiheista. Kun mallilla ei kuitenkaan ole luotettavaa tietoa tietystä kysymyksestä — harvinaisesta oikeustapauksesta, tuoreesta tapahtumasta, vähän tunnetusta henkilöstä tai täsmällisestä luvusta — se tuottaa silti uskottavalta kuulostavan vastauksen. Vastaus vain sattuu olemaan keksitty.
Käytännössä mallilla on vahva mekanismi todennäköisen jatkon tuottamiseen ja heikompi mekanismi jatkon todenperäisyyden osoittamiseen. Yleisissä aiheissa nämä osuvat usein yhteen. Erikoistuneessa, tuoreessa, omistusoikeudellisessa tai täsmällisessä aineistossa ne erkanevat.
Älä pidä varmuutta, viimeisteltyä ulkoasua tai vastauksen pituutta todisteena. Väärä tekoälyvastaus voi olla oikeaa lähdeasiakirjaa paremmin muotoiltu.
Missä hallusinaatioita esiintyy useimmin
Toimintamalli toistuu kaikissa nykyisissä tekoälyavustajissa. Hallusinaatioita syntyy eniten, kun niiltä pyydetään:
- Täsmällisiä nimiä, päivämääriä, lukuja tai lainauksia. ”Kuka sanoi X:n?” ”Minä vuonna Y julkaistiin?” ”Mainitse kolme Z:aa koskevaa tutkimusta.” Tilastolliset mallit tuottavat erinomaisesti lähdeviitteen muodon mutta epäluotettavasti sen todelliset tiedot.
- Erikoistuneita tai vähän tunnettuja aiheita. Koulutusdataa voi olla vähän pienistä yrityksistä, harvinaisista sairauksista, alueellisista säännöistä ja muista kuin julkisuuden henkilöistä. Mitä vähemmän dataa on, sitä suuremmaksi kasvaa ”uskottavan” ja ”toden” välinen ero.
- Tuoreita tapahtumia. Malleilla on koulutusdatan määräpäivä. Jos kysyt sen jälkeisestä tapahtumasta eikä malli hae aktiivisesti verkosta, se joko sanoo ”en ole varma”, mikä on hyvä tulos, tai arvaa.
- Yrityksesi omistusoikeudellisia tietoja. Mallilla ei ole asiakasluetteloasi, koodikantaasi, sopimuksiasi tai sisäisiä tietojasi. Niistä kysyttäessä se tuottaa sisältöä, joka voisi näyttää kyseisiltä tiedoilta.
- Matematiikkaa ja täsmällistä päättelyä. Monivaiheinen laskenta, yksikkömuunnokset, taloudelliset laskelmat ja kaikki tehtävät, joissa pieni virhe kertautuu. Mallit suoriutuvat aiempaa paremmin etenkin silloin, kun ne voivat käyttää laskintyökalua, mutta ne eivät vielä ole luotettavia suurta tarkkuutta vaativissa korkean riskin tehtävissä.
Kaava on selvä: malli epäonnistuu ennakoitavasti, kun pyydät jotakin täsmällistä antamatta sille luotettavaa lähdettä.
Missä hallusinaatioilla ei juuri ole merkitystä
Toisaalta malli toimii luotettavasti laajoilla alueilla, joilla useimmat käyttäjät viettävät suuren osan ajastaan:
- Tekstin luonnostelu ja jäsentäminen. Tehtävä ei edellytä faktoja.
- Oman tekstisi uudelleenmuotoilu ja muokkaaminen. Totuuden lähteenä on antamasi teksti.
- Antamasi asiakirjan tiivistäminen. Malli voi lainata ja tiivistää edessään olevaa sisältöä.
- Ideointi ja ajatusten tuottaminen. Ei ole olemassa yhtä ”oikeaa” vastausta, jonka malli voisi hallusinoida väärin.
- Tunnettujen käsitteiden selittäminen. Koulutusdatassa laajasti esiintyneet aiheet — perustiede, yleinen historia ja tavalliset ohjelmointimallit — ovat yleensä vakaalla pohjalla.
Näillä alueilla hallusinaatioista on harvoin haittaa. Kun siirryt ”vähän tunnettujen asioiden täsmällisiin faktoihin”, varaudu niihin.
Kolme suojaavaa toimintatapaa
Ansan välttämiseen ei tarvita koneoppimisen tohtorintutkintoa. Tarvitset kolme tapaa.
1. Pidä täsmällistä väitettä lähtökohtana, älä viimeisenä sanana
Jos malli antaa nimen, päivämäärän, luvun, lähdeviitteen, säännöksen tai lainauksen ja tiedolla on merkitystä, tarkista se. Nopea haku, vertailu lähdeasiakirjaan tai jatkokysymys ”mistä löysit tämän, lainaa tarkka kohta” paljastaa useimmat ongelmat. Mitä lyhyempi ja täsmällisempi vastaus on, sitä tärkeämpi tarkistus on.
Erityisen hyödyllinen jatkokysymys on: ”Mikä lähde vahvistaisi tämän, ja mitkä täsmälliset väitteet minun pitäisi tarkistaa?” Kysymys ei todista vastausta oikeaksi, mutta muuttaa laajan vastauksen tarkistuslistaksi.
2. Käytä hakua, kun vastauksen pitää olla ajantasainen tai tarkistettavissa
Kaikissa suurissa tekoälyavustajissa on nykyään verkkohaku. ChatGPT:ssä on Search-painike, Claude käyttää hakua monissa tehtävissä ja Geminissä se on sisäänrakennettu. Ota haku käyttöön aina, kun kysyt ajankohtaisista tai tosiasioihin perustuvista asioista. Malli toimii huomattavasti luotettavammin, koska se voi viitata todellisiin lähteisiin, ja saat itse tarkistettavia linkkejä.
Yleinen virhe on esittää tutkimuskysymys perusmallille ja luottaa vastaukseen. Oikea tapa on avata uusi keskustelu, ottaa haku käyttöön ja kysyä vasta sitten. Se vaatii vain yhden ylimääräisen napsautuksen.
3. Anna lähde sen sijaan, että pyytäisit mallia muistamaan
Jos sinulla on asiakirja, liitä se. Jos sinulla on dataa, liitä laskentataulukko. Jos sinulla on alkuperäinen sähköposti, lisää se mukaan. Malli on huomattavasti luotettavampi tiivistäessään tai analysoidessaan antamaasi sisältöä kuin yrittäessään palauttaa tietoja koulutuksesta.
Heikko: ”Mitä Viron työlainsäädäntö sanoo koeajasta?”
Parempi: ”Tässä on Viron työsopimuslain koeaikaa koskeva kohta [liitä]. Selitä, mitä se tarkoittaa kuuden kuukauden sopimuksessa.”
Ensimmäinen kehote on hallusinaatioansa. Toinen perustuu todelliseen tekstiin, joten mallin on helpompi pysyä täsmällisenä.
Lähteiden tarkistamisen työnkulku
Kun vastauksella on merkitystä, tee seuraavat asiat ennen sen käyttämistä:
- Merkitse täsmälliset väitteet. Nimet, päivämäärät, hinnat, lainaukset, lähdeviitteet, oikeudelliset ja lääketieteelliset väitteet sekä tarkat luvut.
- Pyydä tarkistuskohteet. ”Mitkä vastauksesi väitteet minun pitäisi tarkistaa, ja mikä lähde vahvistaisi kunkin niistä?”
- Tarkista ensisijainen lähde. Suosi yhteenvetojen sijasta virallisia ohjeita, alkuperäisiä säädöksiä, tuotesivuja, viranomaisilmoituksia, sopimuksia tai lähdeasiakirjoja.
- Korvaa väitteet, joille ei löydy tukea. Jos et pysty tarkistamaan väitettä nopeasti, poista se, merkitse se epävarmaksi tai muotoile se kysymykseksi.
- Tallenna lähdelinkki. Sinun pitää pystyä myöhemmin selvittämään, mistä vastaus on peräisin.
Artikkeliin liitetty tarkistuslista muuttaa tämän nopeaksi jatka–pysäytä-arvioinniksi.
Hyödyllinen poikkeus: kun hallusinaatio sopii tarkoitukseen
Joskus haluat mallin keksivän asioita — se on koko tehtävän tarkoitus. Kaunokirjallisuus, ideointi, hypoteettiset tilanteet, testien reunatapaukset, luovat muunnelmat ja ”miltä tämän perustelun huonoin versio näyttäisi” -kehotteet ovat tällaisia. Luovassa työssä hallusinaatio ei ole virhe vaan ominaisuus. ”Anna viisi uskottavalta kuulostavaa yritysnimeä” on hyvä käyttötapa, kun taas ”anna viisi todellista X:ää tekevää yritystä” on ansa.
Entä mallipäivitykset?
Uudemmat mallit hallusinoivat keskimäärin vanhoja vähemmän, etenkin yleisissä aiheissa. Erikoistuneessa päässä — harvinaisissa tapauksissa, tuoreissa tapahtumissa ja omistusoikeudellisissa yksityiskohdissa — jopa parhaat vuoden 2026 mallit keksivät edelleen asioita vakuuttavasti. Älä oleta seuraavan julkaisun ratkaisevan ongelmaa. Hallusinaatioiden rakenteellinen syy ei ole muuttunut.
Pieni turvallisuuden tarkistuslista
Ennen kuin luotat tekoälyvastaukseen, kysy:
- Sisältääkö vastaus nimiä, päivämääriä, lukuja, lainauksia, lähdeviitteitä, lakeja, hintoja, lääketieteellisiä neuvoja tai taloudellisia väitteitä?
- Onko aihe tuore, erikoistunut, paikallinen, omistusoikeudellinen tai suuren riskin aihe?
- Käyttikö malli hakua, annettua lähdettä, tietokantaa tai laskinta?
- Pystynkö osoittamaan väitettä tukevan virkkeen, taulukon tai tietueen lähteestä?
Jos vastaus kohtaan 1 tai 2 on kyllä ja vastaus kohtaan 3 tai 4 on ei, hallusinaation riski on olemassa. Tarkista ennen toimimista.
Yhteenveto
Hallusinaatiot ovat ennakoitavia, eivät satunnaisia. Ne keskittyvät täsmällisiin nimiin, päivämääriin ja lukuihin, vähän tunnettuihin aiheisiin, tuoreisiin tapahtumiin, yksityisiin tietoihisi ja tarkkaan matematiikkaan. Niitä ei juuri esiinny tai niistä ei ole haittaa luonnostelussa, uudelleenmuotoilussa, tiivistämisessä, ideoinnissa ja tunnettujen käsitteiden selittämisessä.
Opettele tunnistamaan ne: tarkista yksityiskohdat, ota haku käyttöön faktakysymyksissä ja liitä lähde sen sijaan, että luottaisit mallin muistiin. Näillä kolmella tavalla tekoälystä tulee käytännössä paljon luotettavampi, koska lisäät käyttöön tarkistuskerroksen, jota malli ei itse pysty luotettavasti tarjoamaan.
