Att upptäcka en misstänkt AI-genererad bild eller video av dig själv – sexuell eller inte – som du aldrig har skapat, poserat för eller samtyckt till kan vara omskakande. Att anmäla snabbt kan hjälpa, men hur bevis hanteras och ärendet trappas upp bör följa den vägledning som gäller för plattformen eller från myndigheter. Den här artikeln beskriver tänkbara första steg för vuxna, utan att lova ett visst resultat vad gäller borttagning eller juridik.
Den här artikeln gäller specifikt vuxna. Om den avbildade personen kan vara under 18 ska du sluta använda verktyg avsedda för vuxna och följa den anmälningsväg för barns säkerhet som gäller, med start i första-responsplanen för deepfake av barn. Jurisdiktion, åldern när materialet skapades, åldern när det upptäcktes och materialets karaktär kan alla påverka vilken väg som är rätt.
Det här är första-responsvägledning, inte juridisk rådgivning
Rapporteringsvägar, straffrättsliga definitioner och tillgängliga rättsmedel varierar mellan jurisdiktioner och beror på omständigheterna i det enskilda fallet. Den här artikeln beskriver allmänt tillämpliga steg och namnger verkliga, verifierbara verktyg och kanaler – den hittar inte på journummer, portaler eller juridiska garantier. Be en advokat eller din lokala brottsofferstödstjänst om råd som gäller just ditt fall.
Steg 1: Bevara bevis utan att förstärka dem
Innan du anmäler eller reagerar offentligt ska du dokumentera det du kan på ett säkert sätt, så att det hjälper utan att innehållet sprids vidare:
- Registrera URL:en, plattformen, kontonamnet och datum och tid när du hittade det, även om du också sparar annat bevis.
- Ta en skärmdump av det omgivande sammanhanget – inlägget, kommentarer, kontoprofil – om innehållet i sig inte är sexuellt. Det hjälper till att fastställa var och hur det dök upp.
- Om innehållet är sexuellt eller intimt ska du inte ta en skärmdump av, ladda ner eller vidarebefordra själva bilden eller videon om inte en anmälningsväg du strax ska använda uttryckligen kräver en lokal fil (se StopNCII-alternativet i steg 2). Föredra anmälan via plattformen och URL-baserade bevis när det räcker.
- Skapa eller vidarebefordra inte extra kopior bara för att visa någon. En advokat, brottsofferstöd, en plattform eller en utredare kan behöva bevis – men be först om deras instruktioner för säker bevishantering.
Betala inte någon som hotar att släppa, har släppt eller påstår sig ha mer material – oavsett om hotet gäller pengar, fler bilder eller något annat. Att betala får sällan beteendet att upphöra och leder ofta till fler krav. Bevara i stället de hotfulla meddelandena och gå till steg 4.
Steg 2: Anmäl via verktyget som är avsett för detta
För sexuellt eller intimt material är StopNCII.org:s ärendeformulär ett kostnadsfritt verktyg som drivs av Revenge Porn Helpline (del av den brittiska välgörenhetsorganisationen SWGfL). Kontrollera de aktuella behörighetsfrågorna för just ditt fall, inklusive ålder, om det är du som avbildas och vilken fil du redan har. För syntetiskt material som uppfyller villkoren förklarar tjänsten när den ursprungliga intima bild som använts för att skapa förfalskningen kan hashas. Hashen skapas på din egen enhet och delas med deltagande plattformar; StopNCII är ingen universell borttagningstjänst för hela internet och kan inte ta bort innehåll från webbplatser som inte deltar. Om den avbildade personen kan vara under 18 ska du använda barnsäkerhetsvägen i stället.
USA – eskalering enligt Take It Down Act. Använd först plattformens egen process för anmälan och borttagning. Om plattformen saknar en användbar process, eller inte har tagit bort den anmälda bilden och kända identiska kopior inom 48 timmar efter en giltig begäran, anmäl plattformen via TakeItDown.ftc.gov. FTC:s portal hanterar klagomål om plattformars efterlevnad när det gäller intimt material som omfattas, inklusive AI-genererade deepfakes; den är varken själva borttagningsbegäran till plattformen eller en brottsanmälan mot gärningspersonen. Håll StopNCII, plattformsanmälan och rätt polisiär väg som separata steg.
StopNCII behöver en lokal fil. Matcha vägen till vad du faktiskt har:
- Om filen redan finns på en enhet du kontrollerar (till exempel skickades den direkt till dig): använd StopNCII från den enheten utan att kopiera filen någon annanstans. Rapportera sedan också URL:en via plattformens verktyg för att anmäla kränkande innehåll.
- Om du bara såg det i någon annans flöde, en gruppchatt du inte kontrollerar eller en offentlig sida: ladda inte ner det bara för att hasha det. Registrera URL:en, plattformen, användarnamnet, datum/tid och en textbeskrivning; rapportera den URL:en via plattformens kategori för intimt material eller kränkningar; involvera polisen om det finns ett hot (steg 4). Låt plattformen och utredare hämta materialet.
För innehåll som inte är sexuellt – en fabricerad video som sätter ord i munnen på dig, en manipulerad bild för att förödmjuka eller förtala dig, ett inlägg där någon utger sig för att vara du – ska du anmäla direkt till plattformen via dess särskilda kategori för kränkningar eller säkerhet, inte via ett allmänt kontaktformulär. Vissa plattformar har en särskild anmälningsväg för manipulerade eller syntetiska medier som imiterar en verklig person. Använd den kategorin när den finns och behandla påståenden om ”snabbare hantering” som plattformsberoende snarare än garanterade.
Steg 3: Bestäm medvetet vilka andra som behöver informeras
Till skillnad från en offentlig rättelse är det här inte automatiskt en ”berätta för alla”-situation – vem du informerar är ett val du får göra på dina egna villkor, inte något personen som gjorde eller delade innehållet får tvinga fram. Överväg var och en av följande:
- Personer som redan kan ha sett det – en nära vän, partner eller kollega du litar på, vald medvetet snarare än ett brett tillkännagivande.
- Din arbetsgivare, om relevant för din roll eller ditt rykte – särskilt om innehållet rimligen kan nå kollegor, kunder eller ett professionellt nätverk.
- En kvalificerad kurator eller yrkesperson inom brottsofferstöd, om upptäckten påverkar dig märkbart. Känslomässigt stöd är skilt från, och ersätter inte, anmälnings- eller rättsliga steg.
Det finns ingen skyldighet att göra detta offentligt eller förklara dig för någon. Att själv styra vem som får veta, och när, är en del av att återta kontrollen över en situation utformad för att ta den ifrån dig.
Steg 4: Involvera polisen när det finns hot eller utpressning
Om någon hotar att släppa material, kräver betalning eller fler bilder, eller använder innehållet för att tvinga dig till något: använd de kanaler för brottsofferstöd och cyberbrott eller polis som gäller där du bor. Förhandla inte och betala inte utan vägledning för just ditt ärende; bevara hotfulla meddelanden på det sätt den mottagande myndigheten rekommenderar. Vilka anmälningsval du har och vilka skyldigheter som gäller kring bevis skiljer sig åt mellan länder.
- USA: om en plattforms process enligt Take It Down Act saknas eller inte fungerar, eller om en giltig begäran inte lett till borttagning inom 48 timmar, anmäl plattformen på TakeItDown.ftc.gov. Vid brottsliga hot, utpressning eller bedrägeri: lämna in en anmälan till FBI Internet Crime Complaint Center på ic3.gov, och kontakta lokal polis om du behöver en omedelbar skyddsinsats. FBI publicerar också separat sextortionsvägledning inriktad på barn och tonåringar; om en minderårig är inblandad, stanna och använd responsplanen för deepfake av barn i stället för den här vuxensekvensen.
- Estland: rapportera cyberbrott via Polis- och gränsbevakningsstyrelsen på cyber.politsei.ee. RIA:s vägledning om internetsäkerhet hänvisar brottsoffer till den kanalen.
- Annanstans: använd ditt lands nationella kanal för att anmäla cyberbrott, plus lokal polis om det finns ett omedelbart hot.
Om du känner att du eller någon annan kan vara i omedelbar fysisk fara, kontakta nödnumret där du befinner dig direkt i stället för att börja med en anmälan online.
Steg 5: Överväg juridisk rådgivning för frågor utöver borttagning
Innehållsborttagning och plattformsrapportering hanterar var materialet visas. De hanterar inte ersättning, ett formellt klagomål mot en känd gärningsperson, eller en situation som involverar en partner, en expartner eller någon med verkligt inflytande över ditt liv (en arbetsplats, ett vårdnadsärende, en affärsrelation). Om något av det gäller är en konsultation med en advokat som är insatt i trakasserier på nätet eller bildbaserade övergrepp i din jurisdiktion ett rimligt nästa steg, separat från och utöver rapporteringskanalerna ovan.
Lägg inte tid på att bevisa att det är syntetiskt först
Inget av stegen ovan beror på att du först avgör, med säkerhet, att innehållet är AI-genererat snarare än ett verkligt foto taget utan din vetskap, eller vice versa. Rapporteringsverktyg och utredare är utrustade för att göra den bedömningen; du är det inte, och det finns ingen tillförlitlig, allmänt tillgänglig detektor som skulle låta dig avgöra det själv med säkerhet – se AI-bildgränser, inte detektorer för varför. Rapportera först, utifrån antagandet att skadan är verklig oavsett exakt hur innehållet producerades.
Var detta hänger ihop
Om deepfaken kom bifogad till ett bedrägeriförsök – ett krav på pengar, en fejkad nödsituation, en imitation av någon du känner – täcker att känna igen AI-stödda bedrägerier de bredare verifieringsvanor som gäller. Om din egen röst snarare än din bild klonades beskriver personlig säkerhetskontroll för röstkloning motsvarande risker kring exponering och familjens säkerhetsrutiner. Och om du vill förstå vad ett Content Credentials-märke skulle eller inte skulle ha sagt dig om innehållet från början, förklarar Content Credentials och vattenmärkning – grunderna vad den signalen kan och inte kan bevisa.
Vanliga fallgropar
- Att ladda ner sexuellt innehåll ”för att bevisa att det finns” eller bara för att hasha det. Om filen inte redan finns på en enhet du kontrollerar, använd URL-baserad plattformsrapportering och polis i stället för att skapa en ny lokal kopia för StopNCII.
- Att betala någon som hotar att släppa material. Det stoppar inte beteendet tillförlitligt och bekräftar att du betalar, vilket inbjuder till fler krav.
- Att försöka avgöra ”hur verkligt” innehållet ser ut innan du rapporterar. Det fördröjer åtgärder utan att ändra vad en plattform eller utredare behöver från dig.
- Att anta att detta måste bli allmänt känt. Vem du berättar för, och när, förblir ditt beslut.
- Att förväxla detta med ett barnsäkerhetsfall. Om en minderårig avbildas, stanna och använd responsplanen för deepfake av barn i stället – verktygen, det juridiska ramverket och brådskan skiljer sig.
Prova i dag, innan du behöver det
Bokmärk StopNCII.org nu, medan du är lugn, i stället för att söka efter det under ett stressigt ögonblick. Om du vill kunna hitta stegen snabbt ifall detta händer finns hela sekvensen, inklusive anmälningslänkarna, i första-responschecklistan för deepfake av dig som vuxen.
Källor och granskningens gränser
- StopNCII: skapa ditt ärende förklarar behörighet, hashning på den egna enheten och vilka plattformar som deltar.
- TakeItDown.ftc.gov är amerikanska FTC:s portal för att anmäla en plattform som saknar eller har en trasig borttagningsprocess, eller som inte agerat inom 48 timmar efter en giltig begäran enligt Take It Down Act.
- Europol: hjälp till brottsoffer och anmälan stöder att bevara relevant information, få hjälp och använda officiella anmälningsvägar.
- FBI Internet Crime Complaint Center är USA:s federala väg för att anmäla brott på nätet; andra länder kräver sin egen officiella kanal.
Det här är ett granskat redaktionellt ramverk för första respons, inte juridisk rådgivning eller säkerhetsrådgivning för ett enskilt fall. Tillämpa gällande lag och den officiella processen för brottsofferstöd i det land och för den plattform det gäller.
