Keegi jagab pilti ja küsib: „kas see on AI?“ Esimene tung on otsida klassikalisi märke — liiga palju sõrmi, moonutatud tekst, vahajas nahk — või lasta pilt läbi mõnest „AI-detektori“ tööriistast, mida on nagu seeni pärast vihma. Mõlemad tungid on mõistlikud ja mõlemal on oma säilivusaeg. Nähtavad märgid kahanevad iga uue mudeliga ja detektoritööriistadel on usaldusväärsuse probleem, mis ei kao lihtsalt sellest, et kasutajaliides näeb enesekindel välja.
See artikkel käsitleb seda, mis tegelikult paika peab: konkreetsed mustrid, millega AI-pilditööriistad ikka veel hätta jäävad, ja põhjus, miks ükski detektor — ei inimene ega automaatne — ei suuda anda sulle ühe pildi kohta garanteeritud otsust.
Veamustrid, mis ikka veel kehtivad
Praegu, 2026. aasta keskpaiga seisuga, tasub mõnele kategooriale endiselt teist korda otsa vaadata — mitte sellepärast, et need alati ebaõnnestuvad, ega sellepärast, et nende vältimine tõendaks ehtsust, vaid sellepärast, et need esinevad genereeritud või tugevalt töödeldud piltidel ikka piisavalt tihti, et tasub hetkeks peatuda:
Käed ja peen anatoomia. Keerulised käeasendid, kattuvad sõrmed ja ebaharilik anatoomia annavad endiselt sagedamini nähtavaid vigu kui näod või lihtsad poosid, kuigi tipptööriistad on siin palju paremaks läinud.
Pildil olev tekst. Sildid, etiketid ja pildi sees olev tekst on tööriistade ja versioonide lõikes endiselt ebaühtlased — mõni tulemus näeb korralik välja, teine annab ikka peaaegu-sõnu, ebaühtlast kirja või teksti, mis on ühes kohas terav ja teises laiali valgunud. Käsitle mõtet „näeb loetav välja“ nõrga tõendina mõlemas suunas.
Täpne loendamine ja täpne kordus. Kui palud mudelil kujutada kindlat arvu ühesuguseid objekte, tuleb arv sageli vale. See kehtib nii genereerimise kohta kui ka selle kohta, kuidas mudel ise pilti kirjeldab.
Järjepidevus mitme pildi või kaadri lõikes. Üksik genereeritud pilt võib näida veatu; sama tegelane või objekt kaks korda genereerituna või videokaadrite lõikes triivib sageli väikestes, kuid märgatavates detailides.
Peegeldused, varjud ja füüsikaliselt kooskõlaline valgus. Generaatorid toodavad usutava välimusega valgust ja varje sagedamini kui füüsikaliselt korrektset valgust ja varje.
Ükski neist ei ole piisavalt usaldusväärne, et sellele üksi kindlat otsust rajada — oskuslik või lihtsalt õnnestunud genereering võib need kõik vältida ja ehtsal fotol võib olla veider vari või kohmakas käsi. Käsitle neid asjadena, mis väärivad teistkordset pilku, mitte tõendina. Need ka vananevad kiiresti: kontrolli neid praeguste tööriistade peal, selle asemel et seda nimekirja püsivaks pidada.
Miks „AI-detektori“ tööriistad ei suuda sulle kindlust anda
Kõige selgem tõend selle mustri kohta tuleb OpenAI enda tunnistusest samaväärse probleemi kohta tekstis. OpenAI avaldas 2023. aasta jaanuaris kirjutatud teksti jaoks AI Classifieri ja võttis selle hiljem võrgust maha „madala täpsuse tõttu“ — OpenAI enda avaldatud hindamises märkis tööriist õigesti ära vaid 26% AI-ga kirjutatud tekstist ja märkis samal ajal ekslikult AI-genereerituks 9% päriselt inimese kirjutatud tekstist (OpenAI, “New AI classifier for indicating AI-written text,” 31 January 2023; discontinued 20 July 2023). See konkreetne arv kirjeldab teksti, mitte pilte — aga see on selge, avalikult tunnistatud näide aluseks olevast probleemist: ühe mudelipõlvkonna peal treenitud detektor muutub uuemate vastu järjest kehvemaks ja eksib mõlemas suunas, jättes päris AI-sisu märkamata ja märkides ekslikult ehtsa inimese loodud sisu AI-genereerituks.
Pildi- ja videodetektorid on analoogses pidevas võidurelvastumises struktuursel põhjusel: iga edasiminek tuvastamises on põhimõtteliselt midagi, mille vastu järgmise põlvkonna pildimudeleid saab treenida, ja avalikult kättesaadavat, sõltumatult kontrollitud detektorit, mis peaks usaldusväärselt vastu kõigi praeguste generaatorite, kõigi töötlusviiside ja kõigi tihendus- või taaslaadimisteekondade puhul, mida pilt võib läbida, lihtsalt ei ole. Iga konkreetset täpsusprotsenti, mida detektori pakkuja reklaamib, käsitle väitena tema testandmestiku kohta sellel kuupäeval, mitte garantiina sinu ees oleva pildi kohta.
Ära kasuta detektoritööriista skoori kaaluka otsuse juures otsustava tegurina — olgu see töövaidlus, suhtekonflikt või avalik süüdistus. Valepositiivne tulemus võib ekslikult tembeldada ehtsa foto võltsinguks; valenegatiivne võib lasta veenval võltsingul läbi minna. Kasuta detektori tulemust kui üldse, siis ühe nõrga sisendina kõige muu kõrval, mida see artikkel kirjeldab — mitte kunagi lõpliku otsusena.
Mis tegelikult aitab, kasulikkuse järjekorras
Päritoluinfo, kui see on olemas. C2PA standardil põhinev Content Credential võib näidata, kes faili allkirjastas ning millist loomis- või töötlusajalugu ta kinnitas — see on detektori oletusest tõesti tugevam tõend, kuigi sõltub sellest, kas tööriist ja platvorm seda toetavad ja kas see faili teekonnal sinuni püsima jääb. Vaata artiklit Content Credentialsi ja vesimärkide põhitõed, et teada, mida see märgis tõendab ja mida mitte.
Algallika leidmine. Kõige usaldusväärsem kontroll enamiku piltide puhul ei ole üldse pikslite analüüsimine — see on leida, kus, kelle käest ja millal pilt esimest korda ilmus. Pöördotsing pildi järgi või otsene otsing väidetava sündmuse kohta toob algse konteksti (või selle puudumise) sageli välja kiiremini ja usaldusväärsemalt kui ükski visuaalne analüüs.
Kooskõla sellega, mis muidu teada on. Kas väidetav sündmus kajastub kuskil mujal, sõltumatust allikast? Kas keskkond, riietus või ajatempel klapib sellega, mida on muul moel võimalik kontrollida? See on aeglasem kui detektorinupp, aga palju usaldusväärsem.
Ülaltoodud veamustrid, ainult toetava signaalina. Vaatamist väärt, aga mitte kunagi omaette otsuse aluseks.
Kus see kehtib peale üksiku kahtlase foto
See on sama põhjus, miks sünteetilise meedia päritolu ja nõusolek käsitleb Content Credentialsi kasuliku, ent mitte piisavana, ja see on otsene vastus levinud küsimusele artiklis täiskasvanu esmase reageerimise plaan deepfake’i puhul: ära lükka teatamist edasi, püüdes esmalt „tõestada“, et miski on sünteetiline. Kui genereerid pilte ise ja tahad praktilist juhendit selle kohta, mida praegused tööriistad hästi teevad ja kus jooksevad nende igapäevased piirid, käsitleb AI-pildiloome 101 samade piiride tööriistavaliku ja promptimise poolt.
Levinud lõksud
- Nähtavate märkide puudumise käsitamine ehtsuse tõendina. See, et ülal loetletud klassikalisi vigu ei ole, tähendab, et mudel vältis neid, mitte seda, et pilt on ehtne.
- Detektori protsendi käsitamine faktina pildi kohta. See on fakt selle kohta, kuidas see detektor sellel kuupäeval oma treeningu põhjal seda pilti hindas.
- Aja kulutamine sünteetilise päritolu „tõestamisele“ enne kiireloomulist tegutsemist. Kui otsus on vaja teha kohe — näiteks kahjulikust sisust teatamine —, ära lase detektorite jahtimisel seda edasi lükata. Miks AI annab mõnikord enesekindlalt valesid vastuseid käsitleb sama liigse enesekindluse probleemi teises kontekstis; õppetund kehtib ka siin.
- Eeldus, et järgmise aasta mudelid teevad selle lihtsamaks. Veamustrid kahanevad aja jooksul; põhimõtteline tuvastamisprobleem mitte, sest tuvastamine ja genereerimine on samas võidurelvastumises.
Proovi sel nädalal
Järgmine kord, kui mõni pilt paneb sind kahtlema, ära anna järele kiusatusele lasta see mõnest detektorirakendusest läbi ja numbrit uskuda. Selle asemel: otsi kõigepealt algallikat, kontrolli ülaltoodud konkreetseid veamustreid toetava signaalina ja vaata, kas pildil on Content Credential, kui platvorm seda toetab. Kasuta AI-piltide piiride kontrollnimekirja, et tekiks harjumus kontrollida õigeid asju õiges järjekorras.
