Ein mutmaßlich KI-generiertes Bild oder Video von sich zu entdecken, ob sexuell oder nicht, das Sie weder erstellt noch inszeniert noch erlaubt haben, kann zutiefst verunsichern. Eine schnelle Meldung kann helfen, doch beim Sichern von Beweisen und bei der Eskalation sollten Sie die Vorgaben der jeweiligen Plattform oder zuständigen Behörde befolgen. Dieser Artikel beschreibt mögliche erste Schritte für Erwachsene, ohne eine bestimmte Löschung oder ein bestimmtes rechtliches Ergebnis zu versprechen.
Dieser Artikel behandelt ausdrücklich Fälle, in denen Erwachsene abgebildet sind. Wenn die abgebildete Person unter 18 Jahre alt sein könnte, verwenden Sie keine auf Erwachsene ausgerichteten Hilfsmittel. Folgen Sie stattdessen dem einschlägigen Meldeweg des Kinderschutzes und beginnen Sie mit dem Erste-Hilfe-Plan bei einem Deepfake eines Kindes. Der richtige Weg kann vom Rechtsraum, vom Alter bei der Erstellung und Entdeckung sowie von der Art des Materials abhängen.
Erste Schritte, keine Rechtsberatung
Meldewege, Straftatbestände und verfügbare Rechtsbehelfe unterscheiden sich je nach Rechtsraum und den konkreten Umständen. Dieser Artikel beschreibt allgemein anwendbare Schritte und nennt tatsächlich vorhandene, überprüfbare Hilfsmittel und Anlaufstellen. Er erfindet weder Hotlines oder Portale noch rechtliche Garantien. Lassen Sie sich bei Fragen zu Ihrem konkreten Fall von einer Rechtsanwältin, einem Rechtsanwalt oder einer örtlichen Opferhilfestelle beraten.
Schritt 1: Beweise sichern, ohne den Inhalt weiterzuverbreiten
Bevor Sie den Inhalt melden oder öffentlich reagieren, erfassen Sie gefahrlos verfügbare Angaben so, dass sie bei der Aufklärung helfen und den Inhalt nicht weiter verbreiten:
- Notieren Sie die URL, die Plattform, den Kontonamen sowie Datum und Uhrzeit des Fundes, auch wenn Sie weitere Beweise sichern.
- Erstellen Sie einen Screenshot des umgebenden Kontexts, etwa des Beitrags, der Kommentare und des Kontoprofils, sofern der Inhalt selbst nicht sexuell ist. Damit lässt sich dokumentieren, wo und wie er erschienen ist.
- Wenn der Inhalt sexuell oder intim ist, erstellen Sie keinen Screenshot, laden Sie das Bild oder Video nicht herunter und leiten Sie es nicht weiter, außer ein unmittelbar genutzter Meldeweg verlangt ausdrücklich eine lokale Datei. Beachten Sie dazu die StopNCII-Abzweigung in Schritt 2. Nutzen Sie vorrangig Plattformmeldungen und URL-basierte Belege, wenn diese ausreichen.
- Erstellen oder verschicken Sie keine zusätzlichen Kopien, nur um den Inhalt jemandem zu zeigen. Rechtsbeistand, Opferhilfe, Plattformen oder Ermittlungsbehörden benötigen möglicherweise Beweise. Fragen Sie jedoch zuerst nach deren Vorgaben für eine sichere Übermittlung.
Zahlen Sie niemandem, der mit einer Veröffentlichung droht, bereits veröffentlicht hat oder behauptet, weiteres Material zu besitzen, unabhängig davon, ob Geld, weitere Bilder oder etwas anderes verlangt wird. Eine Zahlung beendet das Verhalten nicht verlässlich und kann weitere Forderungen auslösen. Sichern Sie stattdessen die Drohnachrichten und fahren Sie mit Schritt 4 fort.
Schritt 2: Den dafür vorgesehenen Meldeweg nutzen
Bei sexuellen oder intimen Bildern bietet der Vorgang zur Fallerstellung von StopNCII.org ein kostenloses Hilfsmittel der Revenge Porn Helpline, die zur britischen gemeinnützigen Organisation SWGfL gehört. Prüfen Sie die aktuellen Voraussetzungen für Ihren konkreten Fall, unter anderem das Alter, ob Sie selbst abgebildet sind und welche Datei Sie bereits besitzen. Für geeignete synthetische Inhalte erklärt der Dienst, wann das ursprüngliche intime Bild, aus dem eine Fälschung erstellt wurde, gehasht werden kann. Der Hash wird auf Ihrem Gerät erzeugt und mit teilnehmenden Plattformen geteilt. StopNCII ist kein universeller Löschdienst für das gesamte Internet und kann Inhalte auf nicht teilnehmenden Seiten nicht entfernen. Wenn die abgebildete Person unter 18 Jahre alt sein könnte, nutzen Sie stattdessen den Kinderschutzweg.
Vereinigte Staaten: Eskalation nach dem Take It Down Act. Nutzen Sie zuerst das Melde- und Löschverfahren der Plattform. Wenn die Plattform kein nutzbares Verfahren anbietet oder das gemeldete Bild und bekannte identische Kopien nicht innerhalb von 48 Stunden nach einer gültigen Anfrage entfernt hat, melden Sie die Plattform über TakeItDown.ftc.gov. Das FTC-Portal nimmt Beschwerden darüber entgegen, dass eine Plattform ihre Pflichten bei einschlägigen intimen Bildern, einschließlich KI-generierter Deepfakes, nicht erfüllt. Es ersetzt weder die Löschanfrage an die Plattform noch eine Strafanzeige gegen die verantwortliche Person. Behandeln Sie StopNCII, die Plattformmeldung und den geeigneten Strafverfolgungsweg als getrennte Schritte.
StopNCII benötigt eine lokale Datei. Wählen Sie den Weg danach, was Ihnen tatsächlich vorliegt:
- Wenn sich die Datei bereits auf einem von Ihnen kontrollierten Gerät befindet, beispielsweise weil sie Ihnen direkt geschickt wurde, verwenden Sie StopNCII auf diesem Gerät, ohne die Datei an einen anderen Ort zu kopieren. Melden Sie zusätzlich die URL über das Missbrauchsmeldeverfahren der Plattform.
- Wenn Sie den Inhalt nur im Feed einer anderen Person, in einem nicht von Ihnen kontrollierten Gruppenchat oder auf einer öffentlichen Seite gesehen haben, laden Sie ihn nicht eigens zum Hashen herunter. Notieren Sie URL, Plattform, Benutzername, Datum und Uhrzeit sowie eine textliche Beschreibung. Melden Sie die URL über die Kategorie der Plattform für intime Bilder oder sonstigen Missbrauch. Wenn eine Drohung vorliegt, wenden Sie sich wie in Schritt 4 beschrieben an die Strafverfolgungsbehörden. Lassen Sie Plattform und Ermittlungsbehörden das Material abrufen.
Nicht sexuelle Inhalte, etwa ein gefälschtes Video, das Ihnen Aussagen zuschreibt, ein manipuliertes Bild zur Bloßstellung oder Verleumdung oder ein Beitrag, der Ihre Identität vortäuscht, melden Sie direkt über die konkrete Missbrauchs- oder Sicherheitskategorie der Plattform und nicht über ein allgemeines Kontaktformular. Manche Plattformen bieten einen eigenen Meldeweg für manipulierte oder synthetische Medien, die eine reale Person imitieren. Nutzen Sie diese Kategorie, wenn sie vorhanden ist. Aussagen über eine schnellere Bearbeitung hängen von der Plattform ab und sind keine Garantie.
Schritt 3: Bewusst entscheiden, wer außerdem informiert werden sollte
Im Unterschied zu einer öffentlichen Richtigstellung müssen Sie nicht automatisch alle informieren. Sie entscheiden nach Ihren eigenen Bedürfnissen, wen Sie einbeziehen. Die Person, die den Inhalt erstellt oder geteilt hat, darf Ihnen diese Entscheidung nicht aufzwingen. Prüfen Sie getrennt:
- Menschen, die den Inhalt bereits gesehen haben könnten, etwa eine bewusst ausgewählte, vertrauenswürdige Freundin, einen Partner oder eine Kollegin, statt einer öffentlichen Bekanntmachung.
- Ihren Arbeitgeber, wenn der Inhalt für Ihre Aufgabe oder Ihren Ruf relevant sein könnte, insbesondere wenn er Kolleginnen und Kollegen, Kundschaft oder Ihr berufliches Netzwerk erreichen könnte.
- Eine qualifizierte psychologische Beratungs- oder Opferhilfefachkraft, wenn Sie die Entdeckung stark belastet. Emotionale Unterstützung ist von Melde- und Rechtsschritten getrennt und ersetzt sie nicht.
Sie sind nicht verpflichtet, den Vorfall öffentlich zu machen oder sich zu erklären. Selbst über Zeitpunkt und Umfang der Offenlegung zu bestimmen, kann helfen, die Kontrolle über eine Situation zurückzugewinnen, die Ihnen gerade diese Kontrolle nehmen sollte.
Schritt 4: Bei Drohungen oder Erpressung Strafverfolgungsbehörden einschalten
Wenn jemand mit der Veröffentlichung droht, Geld oder weitere Bilder verlangt oder den Inhalt zur Nötigung verwendet, nutzen Sie die Opferhilfe sowie den Cybercrime- oder Strafverfolgungsweg Ihres Rechtsraums. Verhandeln und zahlen Sie nicht ohne fallbezogene fachliche Anweisung. Sichern Sie Drohnachrichten so, wie es die zuständige Stelle empfiehlt. Meldewege und Pflichten bei der Beweissicherung unterscheiden sich je nach Rechtsraum.
- Vereinigte Staaten: Wenn ein Verfahren der Plattform nach dem Take It Down Act fehlt oder nicht funktioniert oder eine gültige Anfrage nicht innerhalb von 48 Stunden zur Löschung geführt hat, melden Sie die Plattform über TakeItDown.ftc.gov. Bei strafbaren Drohungen, Erpressung oder Betrug können Sie beim Internet Crime Complaint Center des FBI unter ic3.gov eine Meldung einreichen. Wenden Sie sich an die örtliche Polizei, wenn Sie sofortigen Schutz benötigen. Das FBI veröffentlicht außerdem gesonderte Hinweise zu sexueller Erpressung von Kindern und Jugendlichen. Wenn eine minderjährige Person betroffen ist, beenden Sie diesen Ablauf und nutzen Sie den Reaktionsplan für Deepfakes von Kindern.
- Estland: Melden Sie Cyberkriminalität über die Polizei- und Grenzschutzbehörde unter cyber.politsei.ee. Die Hinweise der estnischen Behörde für Informationssysteme zur Sicherheit im Internet verweisen Betroffene auf diesen Kanal.
- Andere Länder: Nutzen Sie die nationale Meldestelle für Cyberkriminalität und bei einer unmittelbaren Drohung zusätzlich die örtliche Polizei.
Wenn Sie oder eine andere Person in unmittelbarer körperlicher Gefahr sein könnten, wenden Sie sich direkt an den Notruf, statt mit einer Online-Meldung zu beginnen.
Schritt 5: Bei Anliegen, die über die Löschung hinausgehen, Rechtsbeistand erwägen
Die Meldung an eine Plattform und die Löschung von Inhalten betreffen den Ort der Veröffentlichung. Sie klären weder eine Entschädigung noch eine förmliche Anzeige gegen eine bekannte verantwortliche Person oder eine Lage, in der eine Partnerin, ein Ex-Partner oder eine andere Person erheblichen Einfluss auf Ihr Leben hat, etwa am Arbeitsplatz, in einer Sorgerechtssache oder in einer Geschäftsbeziehung. In solchen Fällen kann eine Beratung durch einen Rechtsbeistand sinnvoll sein, der mit Online-Belästigung oder bildbasierter Gewalt in Ihrem Rechtsraum vertraut ist. Dieser Schritt ist von den genannten Meldewegen getrennt und kann zusätzlich erforderlich sein.
Versuchen Sie nicht zuerst, die synthetische Herkunft zu beweisen
Für keinen der beschriebenen Schritte müssen Sie zunächst zweifelsfrei feststellen, ob der Inhalt KI-generiert oder ein echtes, ohne Ihr Wissen aufgenommenes Bild ist. Plattformen und Ermittlungsbehörden können diese Frage prüfen. Ein verlässlicher, öffentlich zugänglicher Detektor, mit dem Sie dies selbst sicher entscheiden könnten, existiert nicht. Grenzen bei KI-Bildern statt vermeintlicher Detektoren erklärt die Gründe. Melden Sie den Vorfall zuerst und gehen Sie davon aus, dass der Schaden unabhängig von der Herstellung des Inhalts real ist.
Verwandte Themen
Wenn der Deepfake Teil eines Betrugsversuchs war, etwa einer Geldforderung, eines vorgetäuschten Notfalls oder der Nachahmung einer bekannten Person, erklärt KI-gestützte Betrugsmaschen erkennen die dafür nötigen Prüfgewohnheiten. Wenn statt Ihres Bildes Ihre Stimme geklont wurde, beschreibt Persönliche Schutzmaßnahmen bei Stimmklonen das entsprechende Risiko und sinnvolle Gewohnheiten im Haushalt. Grundlagen zu Content Credentials und Wasserzeichen erklärt, was ein entsprechendes Kennzeichen über den Inhalt belegen kann und was nicht.
Häufige Fehler
- Sexuelle Inhalte herunterladen, „um ihre Existenz zu beweisen“ oder sie zu hashen. Wenn die Datei nicht bereits auf einem von Ihnen kontrollierten Gerät liegt, nutzen Sie URL-basierte Plattformmeldungen und die Strafverfolgungsbehörden, statt für StopNCII eine neue lokale Kopie anzulegen.
- Eine Person bezahlen, die mit der Veröffentlichung droht. Eine Zahlung beendet das Verhalten nicht verlässlich und signalisiert Zahlungsbereitschaft, was weitere Forderungen auslösen kann.
- Vor der Meldung beurteilen, „wie echt“ der Inhalt aussieht. Dies verzögert die Reaktion, ohne zu ändern, welche Angaben Plattformen oder Ermittlungsbehörden benötigen.
- Annehmen, der Vorfall müsse öffentlich werden. Sie entscheiden, wen Sie wann informieren.
- Einen Fall mit einer minderjährigen Person wie einen Erwachsenenfall behandeln. Wenn eine minderjährige Person abgebildet ist, beenden Sie diesen Ablauf und nutzen Sie den Reaktionsplan für Deepfakes von Kindern. Die Hilfsmittel, der rechtliche Rahmen und die Dringlichkeit unterscheiden sich.
Bereiten Sie sich heute vor, bevor Sie den Plan benötigen
Speichern Sie StopNCII.org jetzt als Lesezeichen, solange Sie ruhig handeln können, statt die Seite in einer belastenden Situation erst suchen zu müssen. Die Checkliste für erste Schritte bei einem Deepfake von Erwachsenen fasst den Ablauf und die Meldewege an einem Ort zusammen.
Quellen und Prüfgrenze
- StopNCII: einen Fall erstellen erläutert die Voraussetzungen, das Hashing auf dem eigenen Gerät und die Beschränkung auf teilnehmende Plattformen.
- TakeItDown.ftc.gov ist das Portal der US-amerikanischen FTC für Beschwerden über einen fehlenden oder nicht funktionierenden Löschprozess einer Plattform oder über eine Plattform, die nach einer gültigen Anfrage gemäß dem Take It Down Act nicht innerhalb von 48 Stunden gehandelt hat.
- Europol: Hilfe und Meldemöglichkeiten für Betroffene unterstützt das Sichern relevanter Informationen, die Inanspruchnahme von Hilfe und die Nutzung offizieller Meldewege.
- Das Internet Crime Complaint Center des FBI ist der bundesweite Online-Meldeweg in den USA. Andere Länder haben eigene offizielle Anlaufstellen.
Dies ist ein redaktionell geprüfter Rahmen für erste Schritte, keine fallbezogene Rechts- oder Sicherheitsberatung für Betroffene. Wenden Sie die aktuellen Gesetze und offiziellen Opferhilfeverfahren des betroffenen Rechtsraums und der beteiligten Plattform an.
