Att fråga en chattbot »vad hände med X i dag?« eller »sammanfatta nyheterna om Y« ger ett snabbt och lättläst svar. Publicerade utvärderingar visar att sådana svar kan återge källor, citat och fakta fel. Arbetsflödet nedan kontrollerar de påståenden som spelar roll. Tidsåtgången beror på nyheten och tillgången till originalmaterialet.
Problemets skala, uppmätt
Det här är inte en vag varning, utan ett problem som har testats direkt. BBC prövade först fyra stora AI-assistenter (ChatGPT, Copilot, Gemini och Perplexity) mot sina egna publicerade artiklar i december 2024. Av AI-svaren om nyheter hade 51 % betydande problem. Bland de svar som hänvisade till BBC-material innehöll 19 % direkta sakfel, och 13 % av citaten från BBC-artiklar var antingen ändrade eller saknades helt i den angivna artikeln (BBC, “Groundbreaking BBC research,” 2025).
Några månader senare utökade BBC och European Broadcasting Union testet internationellt med 22 public service-bolag, 18 länder, 14 språk och över 3 000 professionellt utvärderade svar, och publicerade News Integrity in AI Assistants Report. Studien visade att problemet var systematiskt och inte en tillfällighet i en viss marknad eller ett visst språk: 45 % av svaren hade minst ett betydande problem, 31 % hade allvarliga källproblem och 20 % innehöll stora riktighetsproblem, däribland hallucinerade detaljer (BBC/EBU media centre summary, October 2025). Resultaten varierade mellan assistenterna. Gemini hade betydande problem i 76 % av de testade svaren, mer än dubbelt så stor andel som de andra och främst på grund av källfel, men alla testade assistenter hade en märkbar felfrekvens.
Behandla inte »sammanfattningen hänvisade till ett verkligt medium« som bevis för att den är korrekt. BBC/EBU-studien visade att källfel, som felaktiga tillskrivningar, påhittade citat och utelämnat sammanhang, var den enskilt största problemkategorin och vanligare än rena sakfel.
Praktiskt scenario: varför det här spelar roll utanför vardagsläsningen
Om du använder en AI-nyhetssammanfattning för att ge ett team en genomgång, skriva ett inlägg i sociala medier, förbereda ett kundsamtal eller fatta ett snabbt beslut stannar ett oupptäckt källfel inte hos dig. Det följer med in i det du gör härnäst. En kontroll på fem minuter kostar lite jämfört med att rätta ett felaktigt påstående efter att du redan har upprepat det.
Verktygs- och arbetsflödesval
Två konfigurationer beter sig olika, och det spelar roll vilken du använder:
Chatt utan sök- eller webbläge. Modellen sammanfattar utifrån träningsdata eller allmän kunskap om ett ämne. Uppgifterna kan vara inaktuella, allmänt hållna eller helt påhittade när nyheten har fått begränsad bevakning. Använd aldrig den här konfigurationen för något du tänker återge som en aktuell nyhet.
Chatt med sök- eller webbläge och tillgång till den faktiska artikeln. Det här ligger närmare villkoren i BBC/EBU-testet. Assistenten hade verkligt källmaterial men gjorde ändå fel i en betydande andel av svaren. Det är bättre än alternativet men kräver fortfarande kontrollen nedan.
Kontroll mot primärkällan, steg för steg
Steg 1: Identifiera de konkreta påståenden som spelar roll. Granska inte hela sammanfattningen på en gång, utan välj de två eller tre sakuppgifter som du faktiskt skulle upprepa eller agera på: en siffra, ett citat, ett angivet utfall eller en tillskriven åsikt.
Här är en AI-genererad sammanfattning av en nyhet: [klistra in den].
Lista de tre mest konkreta sakpåståendena som går att kontrollera i den här
sammanfattningen. Prioritera siffror, citat och allt som tillskrivs en
namngiven person eller organisation.
Steg 2: Öppna den faktiska artikeln, inte ännu en sammanfattning. Sök efter originalmediets egen rapportering. Om sammanfattningen namngav en källa ska du gå till just den källan. Om ingen källa angavs är även det en signal värd att notera.
Steg 3: Jämför de konkreta påståendena sida vid sida. Stämmer siffran exakt? Är citatet formulerat som i originalet, eller har en parafras presenterats som ett direktcitat? Stöder artikeln verkligen den framställning av orsak, skuld eller säkerhetsgrad som sammanfattningen antyder?
Här är originalartikeln: [klistra in relevant sektion]. Här är påståendena
från AI-sammanfattningen: [klistra in dem]. För varje påstående, säg mig
om originalartikeln stöder det exakt, stöder det med en annan formulering
eller nyans, eller inte stöder det alls. Tona inte ned en avvikelse,
utan markera den tydligt.
Steg 4: Kontrollera om åsikter och fakta hölls isär. BBC:s forskning pekade särskilt på fall där assistenter blandade artikelns egen rapportering med citerade åsikter eller assistentens egna värderingar. Om sammanfattningen framställer något som fakta trots att originalartikeln tillskriver det en opinionsartikel, en citerad person eller en obekräftad rapport måste du behålla den skillnaden i det du själv återger.
Validering och reservplan
Om ett konkret påstående inte håller i steg 3 ska du inte försöka laga det med ännu en AI-fråga. Gå tillbaka till källans formulering och citera eller återge den korrekt, eller stryk påståendet. Om nyheten gäller en studie, dom, inlaga, ett tal, en datamängd eller en policy ska du öppna även det bakomliggande primärmaterialet, inte bara nyhetsartikeln. Om du inte hittar den påstådda källan ska sammanfattningen behandlas som obekräftad.
BBC:s redaktionella riktlinjer om riktighet, Reuters standarder och värderingar, Europeiska kommissionens resurser om desinformation, UNESCO:s resurser om medie- och informationskunnighet och WHO:s vägledning om infodemier ger ytterligare hållpunkter för verifiering och källhantering. De bekräftar inte att ett visst svar från en chattbot är korrekt.
Regel för mänsklig granskning eller eskalering
För allt som ska nå mer än en handfull människor, som en teamgenomgång, ett offentligt inlägg eller en kunduppdatering, bör du lägga in en uttrycklig extrakontroll. Låt någon annan själv öppna primärkällan innan materialet publiceras, särskilt när det gäller siffror, citat och tillskrivna påståenden. Det är samma princip som när man kontrollerar ett hälsopåstående eller spårar ett viralt påstående: modellen kan hjälpa till att hitta och ordna påståenden som behöver kontrolleras, men den är inte den slutliga kontrollen.
Återanvändbar mall
Arbetsbladet för kontroll av en nyhetssammanfattning mot primärkällan gör om de fyra stegen ovan till ett arbetsblad med fält att fylla i. Det är användbart om du regelbundet informerar ett team eller skriver om aktuella händelser.
Samband med andra kontroller
Om »nyheten« kom som ett vidarebefordrat inlägg i stället för en sammanfattning som du själv bad om är spåra ett viralt påstående den mer direkta metoden. Frågan om du från början bör använda sökning eller chatt avgörs av samma källprincip. Om nyheten kräver en djupare syntes av många källor i stället för en enda sammanfattning är Deep Research-läget avsett för det, med samma granskningssteg tillämpat på en längre rapport.
Vanliga fallgropar
- Att lita mer på en sammanfattning för att den nämner mediet vid namn. Att ange rätt medium och att korrekt återge vad mediet sa är två olika saker. BBC/EBU-materialet visar att skillnaden kan vara stor.
- Att bara kontrollera när något känns fel. Felfrekvenserna på 45 % och 51 % ovan gällde svar som inte nödvändigtvis lät uppenbart fel. Att en sammanfattning är välskriven är inget belägg för att den är korrekt.
- Att acceptera en parafras presenterad som ett direktcitat. Fråga uttryckligen om en citerad rad är ordagrann eller omformulerad. Båda studierna lyfte fram detta som ett vanligt fel.
- Att hoppa över kontrollen för att ämnet verkar harmlöst. Felen i studierna var inte koncentrerade till obskyra eller komplicerade nyheter, utan förekom systematiskt även i vanliga nyhetsfrågor.
Prova det den här veckan
Nästa gång du ber en AI-assistent sammanfatta en nyhet som du tänker upprepa eller agera på ska du identifiera de påståenden som spelar roll, öppna originalartikeln och det bakomliggande primärmaterialet, jämföra dem sida vid sida och bekräfta att åsikter inte har presenterats som fakta. Använd kontrollen av en nyhetssammanfattning mot primärkällan för att göra processen återanvändbar.
