Wenn Inhalte ein Kind zu sexualisieren scheinen, leiten Sie sie nicht weiter, sehen Sie sie nicht wiederholt an und laden Sie keine neue Kopie herunter, um sie zu prüfen. Ob synthetische Inhalte einen Straftatbestand erfüllen, welche Belege aufbewahrt werden sollten und wer zu einer Meldung verpflichtet ist, hängt von der Rechtsordnung und dem konkreten Sachverhalt ab. Nutzen Sie die dafür vorgesehene Sicherheitsmeldung der Plattform und die offizielle Meldestelle für Darstellungen sexualisierter Gewalt an Kindern an Ihrem Wohnort, und folgen Sie deren Anweisungen. Nichts davon ist Rechtsberatung oder ein Ersatz für eine Kinderschutzfachperson beziehungsweise Anweisungen der Strafverfolgungsbehörden.
Wenn ein Kind Ziel eines KI-generierten Bildes oder Videos geworden ist, braucht es eine rasche und ruhige Reaktion über die zuständigen Meldewege der Plattform und des Kinderschutzes. Kopien zu speichern, Links weiterzuleiten oder die mutmaßlich verantwortliche Person zu konfrontieren, kann die Verbreitung, das Risiko für das Kind oder Probleme bei der Beweissicherung verschärfen. Dieser Artikel bietet eine erste Orientierung, aber weder ein auf Ihre Rechtsordnung zugeschnittenes Verfahren zur Beweissicherung noch einen vollständigen Plan für die weitere Unterstützung.
Schritt 1: Hinweise sicher dokumentieren – ohne illegale Inhalte herunterzuladen
Wenn das Deepfake sexualisiert ist, speichern Sie das tatsächliche Bild oder Video nicht, fertigen Sie keinen Screenshot an, laden Sie es nicht herunter und leiten Sie es nicht weiter. Nutzen Sie vorzugsweise Meldewege, die mit einer URL oder direkt über die Plattform funktionieren, ohne dass Sie selbst eine Kopie speichern müssen.
NCMECs Take It Down erzeugt einen Hash von geeignetem nacktem, teilweise nacktem oder sexuell explizitem Material, das sich bereits auf dem Gerät der betroffenen Person befindet; die Datei wird nicht hochgeladen. NCMEC legt fest, welche Inhalte infrage kommen und welche Plattformen teilnehmen. Nicht jedes vollständig synthetische Deepfake ist erfasst. Lesen Sie die aktuelle FAQ oder nutzen Sie die CyberTipline beziehungsweise die zuständigen nationalen Hinweise, statt anzunehmen, dieser Artikel könne die Datei einordnen. Laden Sie niemals Bildmaterial herunter und teilen Sie es nicht, nur um den Dienst zu nutzen.
- Wenn sich eine offenbar geeignete Datei bereits auf dem Gerät des Kindes befindet: Folgen Sie NCMECs aktuellen Anweisungen auf genau diesem Gerät, ohne die Datei an einen anderen Ort zu kopieren. Ist unklar, ob sie erfasst ist, oder ist das Bild vollständig synthetisch, lassen Sie sich von der CyberTipline oder der zuständigen nationalen Meldestelle anleiten.
- Wenn Sie das Material nur im Feed einer anderen Person, in einem Gruppenchat außerhalb Ihrer Kontrolle oder auf einer öffentlichen Seite gesehen haben: Laden Sie es nicht herunter, nur um einen Hash zu erzeugen. Notieren Sie URL, Plattform, Nutzername, Datum und Uhrzeit sowie eine Textbeschreibung. Melden Sie die URL über das Meldesystem der Plattform und an die NCMEC CyberTipline in den USA oder an die entsprechende nationale Meldestelle. Überlassen Sie es der Plattform und den Ermittlungsbehörden, das Material abzurufen.
Take It Down funktioniert nur mit teilnehmenden öffentlichen oder unverschlüsselten Diensten und mit geeignetem Material. Eine lokal vorhandene Datei belegt für sich genommen nicht, dass sie vom Dienst erfasst ist. Wenden Sie sich bei Unsicherheit und bei Meldungen außerhalb des Anwendungsbereichs des Hash-Dienstes an die CyberTipline oder die zuständige nationale Meldestelle.
Wenn das Deepfake nicht sexualisiert ist, etwa ein zum Mobbing eingesetzter Gesichtstausch, ein erfundenes Zitat oder ein manipuliertes Video, das dem Kind falsche Aussagen oder Handlungen zuschreibt, ist die Dokumentation einfacher: Notieren Sie URL, Plattform, Datum und Uhrzeit sowie eine Textbeschreibung. Fertigen Sie nur dann einen Screenshot von nicht sexualisiertem Material an, wenn Sie ihn für eine Meldung benötigen. Erstellen oder speichern Sie unter keinen Umständen einen Screenshot sexualisierter Inhalte, auch nicht zu Dokumentationszwecken.
Schritt 2: Verbreitung über die Plattform reduzieren, nicht über Ihr eigenes Netzwerk
Melden Sie den Inhalt direkt über das dafür vorgesehene Sicherheits- oder Missbrauchsmeldesystem der Plattform, auf der er erschienen ist, statt ein allgemeines Kontaktformular zu verwenden. Viele große Plattformen bieten eine eigene Kategorie für nicht einvernehmliche oder sexualisierte Darstellungen Minderjähriger, die an ein spezialisiertes Prüfteam weitergeleitet wird. Warnen Sie keinen großen Kreis von Kontakten, indem Sie den Link oder eine Beschreibung teilen. Dadurch könnten mehr Menschen den Inhalt sehen oder finden. Außerdem nehmen Sie dem Kind und der Familie die Entscheidung darüber ab, wer wann informiert wird.
Eine Untersuchung der Internet Watch Foundation aus dem Jahr 2026 zu KI-generierten Darstellungen sexualisierter Gewalt an Kindern zeigt, dass solche Inhalte oft absichtlich unvollkommen und wie Amateuraufnahmen gestaltet werden, damit sie schwerer als synthetisch zu erkennen sind. Versuchen Sie deshalb nicht erst festzustellen, ob ein Bild „echt genug“ für eine Meldung wirkt, und warten Sie mit der Meldung nicht, während Sie selbst seine Echtheit prüfen (IWF, „Harm Without Limits“, 2026). Melden Sie jedes sexualisierte Bild oder Video, das Ihr Kind darzustellen scheint, unabhängig davon, wie überzeugend oder grob es wirkt.
Schritt 3: Das Kind einbeziehen – unterstützend, nicht als Verhör
Wenn das Kind alt genug ist, die Situation zu verstehen, beziehen Sie es in die nächsten Schritte ein, statt alles ohne seine Beteiligung zu regeln. Beginnen Sie mit Zuspruch, bevor Sie Fragen stellen: Das Kind hat nichts falsch gemacht, es trägt keine Schuld, und Sie bewältigen die Situation gemeinsam. Fragen Sie behutsam, was es bereits weiß und wer das Material noch gesehen hat, ohne mehr Einzelheiten zu verlangen, als für das weitere Vorgehen erforderlich sind. Ein Kind, das sich beschuldigt oder verhört fühlt, wird ein späteres Problem womöglich nicht frühzeitig ansprechen. Hier gilt derselbe Grundsatz wie in der Klausel zum Hilfesuchen in der Familienvereinbarung zur KI-Nutzung.
Lassen Sie das Kind das Material nicht erneut ansehen, um es zu „bestätigen“ oder ausführlich zu beschreiben, es sei denn, eine für die Meldung zuständige Fachperson verlangt dies ausdrücklich. Das wiederholte Betrachten kann zusätzlichen Schaden verursachen und liefert meist kaum mehr verwertbare Informationen als die Plattformmeldung und ein bereits vorhandener Hash.
Schritt 4: Die richtige Plattform, Schule oder Behörde benachrichtigen
Passen Sie die Benachrichtigung an das an, was geschehen ist:
- Inhalte, die ein Kind zu sexualisieren scheinen: Nutzen Sie in den USA die NCMEC CyberTipline, in Großbritannien gegebenenfalls die Internet Watch Foundation oder eine offizielle nationale Meldestelle, die Sie über INHOPE finden. Wenden Sie sich an die örtliche Strafverfolgung oder eine qualifizierte Kinderschutzfachperson, wenn die Meldestelle, eine unmittelbare Gefahr, Drohungen oder lokale Vorschriften das nahelegen. Liegt eine Datei bereits auf dem Gerät des Kindes, kann Take It Down einen Hash erzeugen, ohne das Bild hochzuladen; folgen Sie NCMECs Anweisungen und laden Sie niemals eine Kopie herunter, nur um den Dienst zu nutzen.
- Jemand bedroht oder erpresst das Kind wegen des Materials: Zahlen Sie nicht und verhandeln Sie nicht. Dokumentieren Sie Kennungen und Nachrichten, die den eigentlichen Inhalt nicht wiedergeben, nur so weit, wie es die offiziellen Hinweise für Ihre Rechtsordnung erlauben; setzen Sie das Kind zur Beweissicherung nicht erneut dem Material aus. Melden Sie die Drohung der Plattform, der zuständigen nationalen Meldestelle und dem Notruf beziehungsweise den Strafverfolgungsbehörden, wenn unmittelbare Gefahr besteht oder der offizielle Meldeweg das vorsieht.
- Nicht-sexuelle, schädliche Deepfakes mit Klassenkameradinnen und -kameraden oder Schulkontext: Nutzen Sie zusätzlich zur Plattform den Kinderschutz- oder Beschwerdeweg der Schule und holen Sie Rechtsrat ein, bevor Sie einen Vorwurf der üblen Nachrede erheben.
- Inhalt, der auch ein anderes Kind einbezieht (als erstellende Person, Ziel oder beides): Melden Sie über die Plattform und die für Kinderschutz benannte Person der Schule oder die zuständige Behörde. Kontaktieren Sie ein anderes Kind oder dessen Familie nicht direkt, wenn das Verbreitung, Vergeltung, Beweisverlust oder Risiko erhöhen könnte; folgen Sie den Anweisungen der Kinderschutzfachperson.
Das EU-Gesetz über digitale Dienste verlangt von Plattformen, die Minderjährigen zugänglich sind, angemessene und verhältnismäßige Maßnahmen zum Schutz ihrer Privatsphäre und Sicherheit (Artikel 28). Die Pflichten für Melde- und Abhilfeverfahren bei illegalen Inhalten stehen gesondert in Artikel 16. Reagiert das Meldesystem einer Plattform nicht oder ist es offensichtlich unzureichend, nutzen Sie die dafür vorgesehenen Beschwerde- oder Compliance-Kanäle der Plattform beziehungsweise eine zuständige Aufsichtsbehörde. Dieser Schritt folgt auf die Meldung an die CyberTipline oder die nationale Meldestelle für Kindesmissbrauchsdarstellungen und auf die Sicherheitsmeldung bei der Plattform; er ersetzt diese ersten Meldungen nicht.
Verlassen Sie sich nicht auf Erkennungswerkzeuge, um die Frage zu klären
Kein öffentlich verfügbares Erkennungswerkzeug kann den synthetischen Ursprung eines Inhalts in jedem Fall zweifelsfrei feststellen. Verzögern Sie eine Sicherheitsmeldung nicht, während Sie zu beweisen versuchen, wie der Inhalt entstanden ist. Rechtliche Einordnung und Behandlung durch die Plattform unterscheiden sich, doch die erste Aufgabe besteht darin, den erkennbaren Schaden und den Fundort genau zu beschreiben, nicht eine forensische Analyse vorzunehmen. Solche Werkzeuge können falschen Alarm auslösen oder synthetische Inhalte übersehen und sollten nicht darüber entscheiden, ob Sie Hilfe suchen.
Nach der unmittelbaren Reaktion
Sobald die nötigen Hinweise dokumentiert, die Plattform benachrichtigt und die zuständige Stelle einbezogen sind, rückt das Wohlbefinden des Kindes in den Mittelpunkt. Eine Schulberatungsstelle oder eine qualifizierte psychologische Fachperson kann auch dann sinnvoll sein, wenn noch keine sichtbare Belastungsreaktion vorliegt. KI ist keine Therapie gilt hier ganz konkret: Das Kind sollte dieses Ereignis nicht vor allem in Gesprächen mit einem KI-Chatbot verarbeiten, auch wenn dieser im Moment leicht erreichbar und wertungsfrei erscheint. Es braucht einen Menschen, möglichst mit Erfahrung in der Unterstützung von Kindern nach einer solchen Schädigung.
Wenn das Deepfake aus dem Umfeld Gleichaltriger stammt – etwa von einer Klassenkameradin, einem Klassenkameraden oder jemandem aus dem Freundeskreis –, sollte zusätzlich zu jeder rechtlichen Meldung auch die Schule einbezogen werden. Die Situation kann im Alltag des Kindes erneut auftauchen, unabhängig davon, was die Plattform mit der Meldung unternimmt.
Heute ausprobieren, bevor Sie es brauchen
Am hilfreichsten ist es, die zuständigen Meldewege schon im Voraus zu kennen. Speichern Sie Take It Down und die Seite Ihrer nationalen Meldestelle als Lesezeichen, statt sie erst während einer Krise suchen zu müssen. Besprechen Sie die Grundzüge dieses Plans mit jedem Kind, das alt genug ist, ihn zu verstehen, ähnlich wie einen Fluchtweg im Brandfall. Nicht, weil Sie mit einem Vorfall rechnen, sondern weil bekannte Schritte in einer Krisensituation ruhiger befolgt werden können.
Die Checkliste für die Erstreaktion auf Deepfakes über Kinder fasst die vier Schritte in einem direkt anwendbaren Format zusammen und enthält bereits die wichtigsten Meldelinks.
