Nogen deler et billede og spørger: »Er det lavet med AI?« Den umiddelbare reaktion er at lede efter de klassiske tegn — for mange fingre, forvansket tekst eller voksagtig hud — eller at sende billedet gennem et af de mange værktøjer, der kalder sig »AI-detektorer«. Begge reaktioner er forståelige. Begge har også væsentlige svagheder: De synlige tegn bliver færre for hver ny generation af modeller, og detektorernes pålidelighedsproblem forsvinder ikke, blot fordi brugerfladen udtrykker stor sikkerhed.
Artiklen gennemgår det, vi faktisk ved: de konkrete mønstre, som AI-billedværktøjer fortsat har problemer med, og hvorfor hverken et menneske eller et automatisk værktøj kan give et garanteret svar om et enkelt billede.
Fejlmønstre, der stadig er relevante
Kategorierne nedenfor er tommelfingerregler, ikke målte garantier. De kan give grund til at undersøge kilden nærmere, men værktøjernes evner ændrer sig, og fraværet af et spor siger ikke noget sikkert om billedets oprindelse:
Hænder og fin anatomi. Komplicerede håndstillinger, overlappende fingre og usædvanlig anatomi giver stadig oftere synlige fejl end ansigter og enkle stillinger, selv om de mest avancerede værktøjer er blevet langt bedre.
Tekst i billedet. Skilte, etiketter og anden tekst har fortsat ujævn kvalitet på tværs af værktøjer og versioner. Nogle genererede billeder ser rene ud; andre viser næsten-ord, skiftende bogstavformer eller tekst, der er skarp ét sted og udtværet et andet. Betragt læsbar tekst som svag evidens i begge retninger.
Præcis optælling og ensartet gentagelse. Beder du en model afbilde et bestemt antal ens genstande, bliver antallet ofte forkert. Det gælder både genereringen og modellens egen beskrivelse af et billede.
Sammenhæng mellem flere billeder eller videobilleder. Ét genereret billede kan se fejlfrit ud. Når den samme figur eller genstand genereres igen eller skal bevares gennem flere videobilleder, opstår der ofte små, synlige ændringer.
Refleksioner, skygger og fysisk sammenhængende belysning. Generatorer skaber oftere lys og skygge, der ser sandsynlige ud, end lys og skygge, der er fysisk korrekte.
Ingen af tegnene er alene pålidelige nok til en sikker afgørelse. En vellykket eller heldig generering kan undgå dem alle, og et ægte fotografi kan indeholde en mærkelig skygge eller en akavet hånd. Brug dem som anledning til at kigge igen, ikke som bevis. De forældes også hurtigt, så kontrollér dem mod aktuelle værktøjer i stedet for at behandle listen som permanent.
Hvorfor »AI-detektorer« ikke kan give sikkerhed
NIST’s rapport om gennemsigtighed for syntetisk indhold behandler detektion, vandmærkning, proveniens og mærkning som forskellige tilgange med forskningsmæssige huller og praktiske begrænsninger. NIST’s løbende GenAI-evalueringsprogram og billedudfordring evaluerer generatorer og diskriminatorer under fastlagte testbetingelser. Det er den rette ramme for et detektorresultat: en præstation for et bestemt system og datasæt, en bestemt transformation og en bestemt dato — ikke en certificering af alle billeder fra alle generatorer.
Brug ikke en detektorscore som det afgørende grundlag for en beslutning med alvorlige konsekvenser, eksempelvis en konflikt på arbejdspladsen, i et parforhold eller en offentlig anklage. En falsk positiv kan fejlagtigt stemple et ægte foto som falsk, og en falsk negativ kan lade en overbevisende forfalskning passere. Hvis du overhovedet bruger detektorresultatet, skal det kun være ét svagt signal sammen med artiklens øvrige kontroller — aldrig selve afgørelsen.
Hvad der faktisk hjælper — i prioriteret rækkefølge
Oplysninger om proveniens, når de findes. En Content Credential efter C2PA-standarden kan vise, hvem der har signeret en fil, og hvilken historik for oprettelse eller redigering vedkommende angiver. Det er et stærkere grundlag end en detektors gæt, men afhænger af, at værktøjet og platformen understøtter oplysningerne, og at de overlever filens vej til dig. Artiklen om Content Credentials og grundlæggende vandmærkning forklarer, hvad mærket beviser og ikke beviser.
Find den oprindelige kilde. For mange billeder er det mere nyttigt at undersøge, hvor filen først blev offentliggjort, af hvem og hvornår, end kun at studere billedpunkterne. En omvendt billedsøgning eller en direkte søgning efter den påståede begivenhed kan finde den oprindelige sammenhæng. Et resultatløst forsøg beviser dog ikke, at billedet er falsk.
Sammenhold med andre kendte oplysninger. Er den påståede begivenhed omtalt andre steder af en uafhængig kilde? Stemmer stedet, tøjet og tidspunktet med det, der ellers kan verificeres? Det er langsommere end at trykke på en detektorknap, men langt mere troværdigt.
Brug kun fejlmønstrene ovenfor som supplerende signal. De er værd at undersøge, men aldrig nok til en afgørelse alene.
Hvor metoden også er relevant
Det er samme grund til, at arbejdet med proveniens og samtykke for syntetiske medier betragter en Content Credential som nyttig, men ikke tilstrækkelig. Det er også det direkte svar på et almindeligt spørgsmål i førstehjælpsplanen til voksne, der rammes af en deepfake: Forsink ikke en anmeldelse, mens du forsøger at »bevise«, at materialet er syntetisk. Hvis du selv genererer billeder og ønsker en praktisk vejledning i, hvad aktuelle værktøjer gør godt, og hvor de daglige begrænsninger ligger, gennemgår AI-billedgenerering 101 valg af værktøj og udformning af prompts.
Almindelige faldgruber
- At betragte fravær af synlige tegn som bevis for ægthed. Når de klassiske fejl ikke findes, betyder det blot, at en model kan have undgået dem — ikke at billedet er ægte.
- At betragte detektorens procenttal som en kendsgerning om billedet. Tallet fortæller, hvordan netop den detektor bedømte billedet i forhold til sin egen træning på den pågældende dato.
- At bruge tid på at »bevise« en syntetisk oprindelse, før du handler i en akut situation. Hvis skadeligt indhold eksempelvis skal anmeldes nu, må jagten på en detektor ikke forsinke handlingen. Hvorfor AI undertiden giver selvsikre, forkerte svar beskriver det samme problem med overdreven sikkerhed i en anden sammenhæng.
- At antage, at fremtidige værktøjer gør arbejdsgangen overflødig. Både detektion og generering ændrer sig. Kontrollér den aktuelle, uafhængigt evaluerede evidens i stedet for at bevare en permanent liste over visuelle kendetegn.
Prøv det i denne uge
Næste gang et billede vækker din tvivl, så modstå fristelsen til at sende det gennem en detektorapp og stole på tallet. Find først den oprindelige kilde. Brug derefter fejlmønstrene som et sekundært signal, og kontrollér, om platformen understøtter Content Credentials. Tjeklisten over begrænsninger i AI-billeder hjælper dig med at undersøge de rigtige ting i den rigtige rækkefølge.
