Om innehåll verkar sexualisera ett barn ska du inte vidarebefordra det, titta på det upprepade gånger eller ladda ned en ny kopia för att undersöka det. Huruvida syntetiskt innehåll uppfyller en straffrättslig definition, vilken bevisning som bör bevaras och vem som måste rapportera varierar mellan jurisdiktioner och omständigheter. Använd plattformens särskilda rapporteringsfunktion för säkerhetsärenden och den officiella rapporteringsvägen för sexuellt utnyttjande av barn där du befinner dig, och följ deras instruktioner. Detta är inte juridisk rådgivning och ersätter inte vägledning från en sakkunnig inom barnskydd eller anvisningar från en brottsbekämpande myndighet.
Att upptäcka att ett barn har utsatts för en AI-genererad bild eller video kräver ett snabbt och lugnt svar genom rätt rapporteringskanaler hos plattformen och ansvariga barnskyddsorgan. Att spara kopior, vidarebefordra länkar eller konfrontera en misstänkt skapare kan öka spridningen, risken eller problemen med bevisningen. Det här är en första orientering, inte jurisdiktionsspecifika anvisningar för bevisinsamling eller en fullständig återhämtningsplan.
Steg 1: bevara bevisning på rätt sätt utan att ladda ned olagligt innehåll
Om deepfaken är sexuell ska du inte spara, skärmdumpa, ladda ned eller vidarebefordra själva bilden eller videon. Använd i första hand rapporteringsvägar som fungerar med en URL eller plattformsrapport och inte kräver att du sparar en lokal kopia.
NCMEC:s Take It Down skapar ett digitalt fingeravtryck, en hash, av naket, delvis naket eller sexuellt explicit material som omfattas av tjänsten och redan finns på den berörda personens enhet. Filen laddas inte upp. NCMEC definierar både vem och vilket material som omfattas samt vilka plattformar som deltar, och tjänsten täcker kanske inte varje syntetisk deepfake. Läs den aktuella FAQ:n eller använd CyberTipline eller nationell vägledning i stället för att anta att den här artikeln kan klassificera filen. Ladda aldrig ned eller dela en bild för att kunna använda tjänsten.
- Om en fil som verkar omfattas redan finns på barnets enhet: följ NCMEC:s aktuella instruktioner på samma enhet utan att kopiera filen någon annanstans. Om det är oklart om materialet omfattas eller bilden är helt syntetisk ska du be CyberTipline eller tillämplig nationell rapporteringslinje om vägledning.
- Om du bara såg materialet i någon annans flöde, en gruppchatt du inte styr över eller på en offentlig sida: ladda inte ned det bara för att skapa en hash. Anteckna URL, plattform, användarnamn, datum och tid samt en textbeskrivning. Rapportera URL:en till plattformens rapporteringsverktyg och till NCMEC:s CyberTipline i USA eller nationell motsvarighet. Låt plattformen och utredarna hämta materialet.
Take It Down fungerar bara med deltagande offentliga eller okrypterade tjänster och material som uppfyller kriterierna. Att ha en lokal fil visar inte i sig att materialet omfattas. CyberTipline eller tillämplig nationell stödlinje är vägen vid osäkerhet och för rapporter som ligger utanför hashtjänstens räckvidd.
Om deepfaken inte är sexuell, exempelvis ett ansiktsbyte som används för mobbning, ett påhittat citat eller en falsk video som får det att se ut som att barnet sagt eller gjort något, är bevarandet enklare. Anteckna URL, plattform, datum och tid samt en textbeskrivning. Ta bara en skärmdump av icke-sexuellt material om den behövs för en rapport. Skärmdumpa eller spara aldrig sexuellt innehåll för dokumentation.
Steg 2: minska spridning genom plattformen, inte genom ditt eget nätverk
Rapportera innehållet direkt till plattformen där det publicerades. Använd plattformens särskilda funktion för rapportering av övergrepp eller säkerhetsproblem, inte ett allmänt kontaktformulär. De flesta stora plattformar har en särskild kategori för sexualiserade bilder av minderåriga eller bilder som spridits utan samtycke, vilket leder till en specialiserad granskning. Dela inte länken eller beskrivningen i en bred krets »så att andra kan hålla utkik«. Det ökar antalet personer som har sett eller kan hitta materialet och tar ifrån barnet och familjen beslutet om vem som ska informeras och när.
Internet Watch Foundations forskning från 2026 om AI-genererat material med sexuella övergrepp mot barn fann att innehållet ofta avsiktligt får se ofullkomligt ut, som amatörbilder, för att vara svårare att känna igen som syntetiskt. Försök därför inte avgöra om en bild är »tillräckligt verklig« för att rapporteras och vänta inte med rapporten medan du själv försöker verifiera äktheten (IWF, »Harm Without Limits«, 2026). Rapportera varje sexualiserad bild eller video som verkar föreställa barnet, oavsett hur övertygande eller grovt materialet ser ut.
Steg 3: stöd barnet och låt det vara delaktigt, utan förhör
Om barnet är tillräckligt gammalt för att känna till situationen ska det få delta i vad som händer härnäst. Börja med trygghet innan du ställer frågor: barnet har inte gjort något fel, det är inte barnets skuld och ni hanterar situationen tillsammans. Fråga varsamt vad barnet redan vet och vilka andra som har sett materialet, utan att pressa fram fler detaljer än vad som behövs för att agera. Ett barn som känner sig anklagat eller förhört kan tveka att berätta tidigt nästa gång något händer. Det är samma princip som ligger bakom klausulen om att söka hjälp i familjeavtalet om AI.
Låt inte barnet titta på materialet igen för att »bekräfta« det eller beskriva det i detalj, om inte en yrkesperson som hanterar rapporten uttryckligen behöver att barnet gör det. Upprepad exponering ökar skadan utan att tillföra mycket mer information än plattformsrapporten och det digitala fingeravtrycket redan ger.
Steg 4: meddela rätt plattform, skola eller myndighet
Välj mottagare efter vad som har hänt:
- Innehåll som verkar sexualisera ett barn: använd NCMEC:s CyberTipline i USA, Storbritanniens Internet Watch Foundation när den är tillämplig eller en officiell nationell stödlinje som du hittar via INHOPE. Kontakta lokal brottsbekämpande myndighet eller en kvalificerad sakkunnig inom barnskydd när rapporteringsorganet, omedelbar fara, hot eller lokala regler kräver det. Om filen redan finns på barnets enhet kan Take It Down möjligen skapa en hash utan att ladda upp bilden. Följ NCMEC:s instruktioner och ladda aldrig ned en kopia bara för att använda tjänsten.
- Någon hotar eller utpressar barnet med materialet: betala eller förhandla inte. Bevara endast identifierare och meddelanden som inte innehåller själva materialet och bara på det sätt som officiell vägledning för din jurisdiktion tillåter. Utsätt inte barnet för materialet igen för att samla bevis. Rapportera hotet till plattformen, relevant nationellt rapporteringsorgan och larm- eller brottsbekämpande myndighet om det finns omedelbar fara eller den officiella vägen instruerar er att göra det.
- Icke-sexuella skadliga deepfakes med klasskamrater eller skolanknytning: använd skolans väg för barnskydd eller trakasserier utöver plattformsrapporteringen, och skaffa juridisk rådgivning innan du framför en anklagelse om förtal.
- Innehåll som också rör ett annat barn, som skapare, måltavla eller båda: rapportera genom plattformen och skolans utsedda ansvariga för barnskydd eller den officiella myndigheten. Kontakta inte det andra barnet eller familjen direkt om det kan öka spridning, vedergällning, bevisförlust eller risk. Följ instruktionerna från den sakkunniga inom barnskydd.
EU:s rättsakt om digitala tjänster kräver att plattformar som är tillgängliga för minderåriga vidtar lämpliga och proportionerliga åtgärder för deras integritet, trygghet och säkerhet (artikel 28). Artikel 16 innehåller separata skyldigheter om anmälan och åtgärder för olagligt innehåll. Om plattformens rapporteringsverktyg inte svarar eller är tydligt otillräckligt ska du gå vidare genom plattformens klagomåls- eller regelefterlevnadskanaler eller vända dig till relevant tillsynsmyndighet. Ge inte upp rapporteringen. Att gå vidare till en tillsynsmyndighet är dock ett senare steg efter rapportering till CyberTipline eller nationell motsvarighet och plattformens särskilda rapporteringsfunktion.
Förlita dig inte på detekteringsverktyg för att avgöra saken
Det finns ingen offentlig detektor som definitivt kan fastställa syntetiskt ursprung i varje fall. Fördröj inte en säkerhetsrapport medan du försöker bevisa hur materialet skapades. Den rättsliga klassificeringen och plattformens hantering varierar, men den som rapporterar ska först beskriva den skada materialet verkar orsaka och var det finns, inte utföra en forensisk analys. Detektionsverktyg kan ge både falska positiva och falska negativa resultat och ska inte avgöra om du söker hjälp.
Efter den omedelbara insatsen
När bevisningen har bevarats, plattformen har informerats och rätt myndighet har kopplats in flyttas fokus till barnets välbefinnande. En skolkurator eller yrkesperson inom psykisk hälsa kan vara ett rimligt förebyggande stöd, inte bara en reaktion på synlig stark oro. AI är inte terapi är särskilt relevant här: låt inte barnet främst bearbeta händelsen i samtal med en AI-chattbot, hur tillgängliga och icke-dömande svaren än verkar. Barnet behöver en människa, helst någon med utbildning i att stödja barn efter denna typ av skada.
Om deepfaken kommer från en kamrat, vän eller annan person i barnets sociala krets behöver skolan också kopplas in, separat från eventuell rättslig rapportering. Situationen kan annars fortsätta i barnets vardagsmiljö oavsett vad som händer med plattformsrapporten.
Prova det i dag, innan du behöver det
Det mest användbara förberedande steget är att i förväg veta var rapporteringsverktygen finns. Bokmärk Take It Down och den nationella rapporteringssidan nu, inte först under en kris. Gå igenom huvuddragen i planen med barn som är gamla nog att förstå den, ungefär som en utrymningsväg vid brand: inte för att ni räknar med att behöva den, utan för att förberedelse gör det lättare att följa stegen lugnt.
Checklistan för den första insatsen vid en deepfake mot ett barn samlar de fyra stegen i ett format som går att följa direkt, med rapporteringslänkarna redan angivna.
