Første gang nogen bliver afsløret af en selvsikker AI-fejl — en falsk juridisk kildehenvisning, et opdigtet citat, en ikke-eksisterende forfatter eller en næsten rigtig skatteregel — lærer de noget vigtigt. Modellen var ikke forvirret og havde ikke en dårlig dag. Den gjorde præcis det, den er udviklet til; brugeren stillede blot et spørgsmål, hvor denne adfærd gav et forkert svar.
Det er ikke et tænkt eksempel. I den mest kendte tidlige sag, Mata v. Avianca (2023), indgav to advokater fra New York et processkrift med henvisning til seks præjudicerende sager, som ikke fandtes. ChatGPT havde opfundet dem, inklusive overbevisende citater og kildehenvisninger, og en føderal dommer pålagde advokaterne sanktioner. De bad en sandsynlighedsmaskine om præjudikater og fik præcis det, den er bygget til at levere: sandsynligt klingende tekst.
Dette er et af de få AI-emner, hvor det er vigtigt at forstå mekanismen. Når du først ser, hvordan hallucinationer opstår, holder de op med at overraske dig, og du holder op med at brænde dig på dem.
Det officielle begreb
Den almindelige betegnelse for, at “AI selvsikkert leverer et forkert svar”, er hallucination. Begrebet er ikke helt præcist, for modellen ser ikke noget. Det, der sker, er, at modellen producerer tekst, som er flydende, sandsynlig og forkert.
Den praktiske pointe er vigtig: Hallucinationer er ikke blot en midlertidig produktfejl. De opstår i forskellen mellem at generere sandsynligt sprog og at kontrollere, om noget er sandt. Du bør forvente dem, planlægge efter dem og ikke antage, at den næste modeludgivelse fjerner behovet for kontrol.
Hvorfor det sker
For at kunne forudsige det næste ord godt må en sprogmodel have optaget enorme mængder sproglig struktur — grammatik, fakta, samtalemønstre og forskellen på et lægenotat og et opslag på X. Når du stiller et spørgsmål, skaber den en fortsættelse, der statistisk passer til de mønstre, den har lært.
Her er problemet: Der findes ingen intern “det ved jeg ikke”-alarm. Modellen er trænet til at skabe en sandsynlig fortsættelse, ikke en kontrolleret fortsættelse. Sandsynligt og korrekt overlapper som regel, fordi træningsdataene indeholder korrekte oplysninger om almindelige emner. Men når modellen ikke har set pålidelige oplysninger om et konkret spørgsmål — en nichesag i juraen, en nylig begivenhed, en ukendt person eller et præcist tal — leverer den stadig et svar, der lyder sandsynligt. Svaret er blot opdigtet.
Den praktiske forklaring er, at modellen har en stærk mekanisme til at skabe en sandsynlig fortsættelse og en svagere mekanisme til at bevise, at fortsættelsen er sand. Ved almindeligt stof stemmer de to ofte overens. Ved nichepræget, nyt, internt eller meget præcist stof bevæger de sig fra hinanden.
Betragt ikke selvsikkerhed, sproglig finish eller længde som dokumentation. Et forkert AI-svar kan være flottere formateret end det korrekte kildedokument.
Hvor hallucinationer oftest opstår
Mønstret går igen i alle nuværende AI-assistenter. De hallucinerer oftest, når du beder om:
- Konkrete navne, datoer, tal eller citater. “Hvem sagde X?” “Hvilket år blev Y udgivet?” “Henvis til tre studier om Z.” Statistiske mønstre er fremragende til at skabe formen på en kildehenvisning, men upålidelige, når det gælder de faktiske oplysninger.
- Nicheprægede eller ukendte emner. Alt, hvor træningsdataene er sparsomme — små virksomheder, sjældne sygdomme, regionale regler og enkeltpersoner, der ikke er kendte. Jo mindre data, desto større afstand mellem “sandsynligt” og “sandt”.
- Nylige begivenheder. Modeller har en skæringsdato for deres træning. Spørger du om noget, der er sket senere, vil modellen — medmindre den aktivt søger på nettet — enten sige “det ved jeg ikke” (det gode resultat) eller gætte.
- Interne oplysninger om din konkrete virksomhed. Modellen har ikke din kundeliste, din kodebase, dine kontrakter eller dine interne data. Spørger du til dem, producerer den et bud på, hvordan sådanne oplysninger sandsynligvis ville se ud.
- Matematik og præcise ræsonnementer. Beregninger i flere trin, enhedsomregning, økonomiske beregninger og alt, hvor en lille fejl forplanter sig. Modeller er bedre end tidligere, især når de kan bruge en lommeregner, men de er endnu ikke pålidelige, når præcisionen har store konsekvenser.
Læg mærke til mønstret: Modellen fejler på en forudsigelig måde, når du beder om noget konkret uden at give den en pålidelig kilde.
Hvor hallucinationer næsten aldrig er et problem
Omvendt er modellen pålidelig på store områder, hvor de fleste brugere faktisk bruger deres tid:
- Udarbejdelse og strukturering af tekst. Der kræves ingen “fakta”.
- Omskrivning og redigering af din egen tekst. Det, du har givet modellen, er facit.
- Opsummering af et dokument, du har givet modellen. Den kan citere og komprimere det, der allerede ligger foran den.
- Idégenerering og brainstorming. Der er ikke noget “sandt” svar at hallucinere.
- Forklaring af velkendte begreber. Alt, der er grundigt repræsenteret i træningsdataene — grundlæggende naturvidenskab, alment kendt historie og almindelige programmeringsmønstre — står som regel på et solidt grundlag.
Hvis du holder dig inden for disse områder, giver hallucinationer sjældent problemer. Bevæger du dig ind på området med “konkrete fakta om nicheprægede emner”, skal du forvente dem.
Tre vaner, der beskytter dig
Du behøver ikke en ph.d. i maskinlæring for at undgå fælden. Du behøver tre vaner.
1. Betragt enhver konkret påstand som et udgangspunkt, ikke som det endelige svar
Hvis modellen giver dig et navn, en dato, et tal, en kildehenvisning, en regel eller et citat — og svaret har betydning — skal du kontrollere det. En hurtig søgning, en sammenligning med kildedokumentet eller et opfølgende spørgsmål som “hvor fandt du dette? citér det relevante afsnit” fanger de fleste problemer. Jo kortere og mere konkret svaret er, desto vigtigere er kontrollen.
Et særligt nyttigt opfølgende spørgsmål er: “Hvilken kilde kan bekræfte dette, og hvilke konkrete påstande bør jeg kontrollere?” Det beviser ikke, at svaret er rigtigt, men omdanner et bredt svar til en checkliste til kontrol.
2. Brug søgning, når svaret skal være aktuelt eller verificerbart
Alle større AI-assistenter har nu en funktion til websøgning. ChatGPT har en Søg-knap, Claude har indbygget søgning i mange opgaver, og Gemini har funktionen som standard. Slå den til, når du spørger om noget tidsfølsomt eller faktuelt. Modellen bliver langt mere pålidelig, fordi den kan henvise til virkelige kilder, og du får links, du selv kan kontrollere.
En almindelig fejl er at bruge grundmodellen til et researchspørgsmål og derefter stole på svaret. Den rette fremgangsmåde er: “Åbn en ny chat, slå søgning til, og stil så spørgsmålet.” Det kræver ét ekstra klik.
3. Giv modellen kilden i stedet for at bede den huske
Har du dokumentet, så indsæt det. Har du dataene, så vedhæft regnearket. Har du den oprindelige e-mail, så tag den med. Modellen er markant mere pålidelig, når den opsummerer eller analyserer indhold, du giver den, end når du beder den genkalde noget fra træningen.
Svagt: “Hvad siger estisk ansættelsesret om prøvetid?”
Bedre: “Her er afsnittet om prøvetid i Estlands lov om ansættelseskontrakter [indsæt]. Forklar, hvad det betyder for en kontrakt på seks måneder.”
Den første prompt er en hallucinationsfælde. Den anden er forankret i en virkelig tekst, så modellen kan holde sig præcis.
En arbejdsgang til kildekontrol
Når et svar har betydning, skal du gøre følgende, før du bruger det:
- Markér konkrete påstande. Navne, datoer, priser, citater, kildehenvisninger, juridiske og medicinske påstande samt præcise tal.
- Bed om kontrolpunkter. “Hvilke påstande i dit svar bør jeg kontrollere, og hvilken kilde kan bekræfte hver af dem?”
- Kontrollér den primære kilde. Foretræk officiel dokumentation, de oprindelige regler, produktsider, indberetninger, kontrakter eller kildedokumenter frem for opsummeringer.
- Erstat påstande uden belæg. Kan du ikke hurtigt bekræfte en påstand, så fjern den, markér den som usikker, eller omskriv den som et spørgsmål.
- Gem linket til kilden. Du skal senere kunne se, hvor svaret kom fra.
Den tilhørende checkliste, som artiklen linker til, gør arbejdsgangen til en hurtig ja/nej-kontrol.
En nyttig undtagelse: når hallucinationer er okay
Nogle gange ønsker du, at modellen opfinder noget — det er hele formålet. Fiktion, idéudvikling, hypotetiske situationer, randtilfælde til test, kreative variationer over et tema og prompts som “hvordan ville den værste udgave af dette argument lyde?” I kreativt arbejde er hallucination ikke en fejl, men en funktion. Vær blot opmærksom på forskellen mellem “giv mig fem virksomhedsnavne, der lyder sandsynlige” (god brug) og “giv mig fem virkelige virksomheder, der gør X” (en fælde).
Hvad med modelopgraderinger?
Nyere modeller hallucinerer i gennemsnit mindre end ældre modeller, især om almindelige emner. Men i den nicheprægede ende — sjældne tilfælde, nylige begivenheder og interne detaljer — opfinder selv de bedste modeller i 2026 stadig oplysninger med stor selvsikkerhed. Gå ikke ud fra, at næste udgivelse løser problemet. Den strukturelle årsag til hallucinationer er uændret.
En lille sikkerhedscheckliste
Før du stoler på et AI-svar, skal du spørge:
- Indeholder svaret navne, datoer, tal, citater, referencer, love, priser, medicinsk rådgivning eller finansielle påstande?
- Er emnet nyt, nichepræget, lokalt, internt eller forbundet med store konsekvenser?
- Har modellen brugt søgning, en kilde, jeg har givet den, en database eller en lommeregner?
- Kan jeg pege på den sætning, tabel eller registrering i kilden, som underbygger påstanden?
Hvis svaret på 1 eller 2 er ja, mens svaret på 3 eller 4 er nej, er der risiko for hallucination. Kontrollér oplysningerne, før du handler.
Konklusionen
Hallucinationer er forudsigelige, ikke tilfældige. De samler sig omkring konkrete navne, datoer og tal, ukendte emner, nylige begivenheder, dine private data og præcis matematik. De er fraværende eller ufarlige ved udarbejdelse, omskrivning og opsummering af tekst, idéudvikling og forklaring af almindelige begreber.
Opbyg en vane med at fange dem: Kontrollér konkrete oplysninger, slå søgning til ved faktuelle spørgsmål, og indsæt kilden i stedet for at stole på modellens hukommelse. Gør du disse tre ting, bliver AI langt mere pålidelig i praksis — fordi du tilføjer det kontrollag, som modellen ikke selv kan levere pålideligt.
