Någon delar en bild och frågar »är det här AI?« Instinkten är att leta efter de klassiska tecknen, som för många fingrar, förvrängd text och vaxartad hud, eller att låta något av de många AI-detektorverktyg som har dykt upp granska bilden. Båda reaktionerna är rimliga, men båda kan slå fel på viktiga sätt. De synliga tecknen blir färre för varje ny modellversion, och detektorverktygens tillförlitlighetsproblem försvinner inte bara för att gränssnittet ger ett säkert intryck.
Den här artikeln beskriver vad vi faktiskt vet: de särskilda mönster som AI-bildverktyg fortfarande har svårt med och varför varken människor eller automatiska detektorer kan ge ett säkert besked om en enskild bild.
Felmönster som fortfarande är användbara
Följande kategorier är tumregler, inte uppmätta garantier. De kan motivera en närmare källkontroll, men verktygens kapacitet förändras och frånvaron av en ledtråd säger inget avgörande om bildens ursprung:
Händer och anatomiska detaljer. Komplicerade handställningar, överlappande fingrar och ovanlig anatomi ger fortfarande synliga fel oftare än ansikten och enkla poser, även om de ledande verktygen har blivit mycket bättre på området.
Inbäddad text. Resultaten för skyltar, etiketter och annan text i en bild varierar fortfarande mellan verktyg och versioner. Vissa genererade bilder ser korrekta ut, medan andra visar ordliknande tecken, inkonsekventa bokstäver eller text som är skarp i ett område och utsmetad i ett annat. Att texten ser läsbar ut är bara ett svagt belägg, oavsett vilken slutsats du överväger.
Exakt antal och exakt upprepning. Be en modell avbilda ett bestämt antal identiska föremål och antalet blir ofta fel. Det gäller både genereringen och en modells egen beskrivning av en bild.
Enhetlighet mellan flera bilder eller bildrutor. En enskild genererad bild kan se felfri ut, men samma figur eller föremål förändras ofta på små men märkbara sätt när det genereras på nytt eller återkommer i flera bildrutor i en video.
Reflexer, skuggor och fysikaliskt konsekvent belysning. Generatorer skapar oftare ljus och skuggor som ser trovärdiga ut än ljus och skuggor som faktiskt är fysikaliskt korrekta.
Inget av tecknen är tillräckligt tillförlitligt för att ensamt ligga till grund för en säker bedömning. En välgjord eller lyckad generering kan undvika dem alla, och ett äkta foto kan innehålla en märklig skugga eller en hand i en ovanlig ställning. Se dem som skäl att titta närmare, inte som bevis. De blir också snabbt inaktuella, så kontrollera mot dagens verktyg i stället för att behandla listan som beständig.
Varför AI-detektorer inte kan ge dig säkerhet
NIST:s rapport om transparens för syntetiskt innehåll granskar detektion, vattenmärkning, ursprung och märkning som skilda metoder med forskningsluckor och begränsningar i genomförandet. NIST:s pågående GenAI-utvärderingsprogram och bildutmaning utvärderar generatorer och detektorer under definierade testvillkor. Det är rätt sätt att tolka ett detektorresultat: prestanda för ett angivet system, en viss datamängd, en viss omvandling och en viss tidpunkt, inte ett certifikat för varje bild från varje generator.
Låt inte ett detektorverktygs poäng bli den avgörande faktorn i ett beslut som kan få stora konsekvenser, till exempel en arbetsplatstvist, en relationskonflikt eller en offentlig anklagelse. Ett falskt positivt kan felaktigt stämpla ett äkta foto som falskt, medan ett falskt negativt kan släppa igenom en övertygande fabricering. Om du alls använder detektorresultatet ska det bara vara ett svagt underlag tillsammans med resten av kontrollerna i artikeln, aldrig en dom.
Vad som faktiskt hjälper, i ordning av användbarhet
Ursprungsinformation, där den finns. En Content Credential enligt C2PA-standarden kan visa vem som signerade en fil och vilken skapande- eller redigeringshistorik som angavs. Det är ett klart starkare belägg än en detektors gissning, men bara om verktyget och plattformen stöder uppgifterna och de finns kvar när filen når dig. Läs grunderna i Content Credentials och vattenmärkning om vad märkningen bevisar och inte bevisar.
Hitta originalkällan. För många bilder är det mer användbart att spåra var filen först publicerades, av vem och när än att bara granska pixlarna. En omvänd bildsökning eller en direkt sökning efter den påstådda händelsen kan hitta originalsammanhanget, men en resultatlös sökning är inget bevis på att bilden är fabricerad.
Överensstämmelse med annan känd information. Omnämns den påstådda händelsen någon annanstans av en oberoende källa? Stämmer miljön, kläderna och tidsstämpeln med sådant som går att kontrollera på annat sätt? Det tar längre tid än att trycka på en detektorknapp men är betydligt mer tillförlitligt.
Felmönstren ovan, enbart som kompletterande signaler. De är värda att kontrollera men räcker aldrig ensamma för en slutsats.
Där det här gäller bortom ett enskilt misstänkt foto
Av samma skäl behandlar artikeln om ursprung och samtycke för syntetiska medier en Content Credential som användbar men otillräcklig. Samma princip gäller i planen för de första åtgärderna för en vuxen som utsatts för en deepfake: vänta inte med att rapportera medan du försöker »bevisa« att materialet är syntetiskt. Om du själv skapar bilder och vill ha en praktisk guide till vad dagens verktyg gör bra och var deras gränser går, beskriver AI-bildgenerering 101 verktygsval och promptning utifrån samma begränsningar.
Vanliga fallgropar
- Att behandla »inga synliga tecken« som bevis på äkthet. Att de klassiska felen ovan saknas betyder att en modell kan ha undvikit dem, inte att bilden är äkta.
- Att behandla en detektors procentsats som ett faktum om bilden. Procentsatsen visar hur just den detektorn bedömde bilden utifrån sin egen träning vid en viss tidpunkt.
- Att lägga tid på att »bevisa« syntetiskt ursprung innan du agerar i en brådskande situation. Om du måste agera nu, till exempel för att rapportera skadligt innehåll, ska jakten på ett detektorresultat inte få fördröja åtgärden. Varför AI ibland ger säkra felaktiga svar beskriver samma problem med överdriven säkerhet i ett annat sammanhang. Principen är densamma.
- Att anta att framtida verktyg gör arbetsflödet överflödigt. Både detektion och generering förändras. Kontrollera aktuella, oberoende utvärderingar i stället för att bevara en permanent lista över visuella tecken.
Prova det den här veckan
Nästa gång en bild får dig att stanna upp bör du motstå impulsen att låta en detektorapp granska den och sedan lita på siffran. Leta först efter originalkällan, granska de särskilda felmönstren ovan som kompletterande signaler och se efter om det finns en Content Credential när plattformen stöder sådana uppgifter. Använd checklistan för AI-bilders begränsningar för att göra det till en vana att kontrollera rätt saker i rätt ordning.
