自分で作った覚えも、撮影された覚えも、同意した覚えもない、自分のAI生成と疑われる画像や動画を見つけると、性的な内容かどうかにかかわらず動揺するのは当然です。速やかな通報が役立つことはありますが、証拠の扱い方と次の窓口への引き継ぎ方については、該当するプラットフォームや公的機関の案内に従ってください。本記事では、削除や法的な結果を保証せず、成人が最初に取れる対応を説明します。
本記事は成人のケースを扱います。描かれている人が18歳未満の可能性がある場合は、成人向けのツールの使用をやめ、該当する子どもの安全に関する通報経路に従ってください。まずは子どもがAIディープフェイクの標的になったとき：初動対応計画を参照してください。管轄、作成時の年齢、発見時の年齢、素材の性質によって、適切な経路は変わる可能性があります。
初動対応の案内であり、法的助言ではない
通報先、刑事上の定義、利用できる救済は、管轄と個別の状況によって異なります。本記事では広く応用できる手順を示し、実在して確認できるツールと窓口だけを挙げます。存在しないホットラインやポータル、法的な保証を作り出すことはしません。自分のケースに固有の問題については、弁護士または地域の被害者支援サービスに相談してください。
ステップ1：拡散させずに証拠を保全する
公に反応したり広く知らせたりする前に、コンテンツをさらに広めず、後の対応に役立つ形で安全に残せる情報を記録します。
- 見つけたURL、プラットフォーム、アカウント名、日時を記録する。 ほかの証拠も保存する場合でも、この情報は別に記録してください。
- コンテンツ自体が性的なものでなければ、投稿、コメント、アカウントのプロフィールなど、前後関係が分かるスクリーンショットを撮る。 どこに、どのような形で掲載されたかを示すのに役立ちます。
- コンテンツが性的または親密な内容なら、これから使う通報窓口がローカルファイルを明示的に求めていない限り（ステップ2のStopNCIIの分岐を参照）、画像や動画そのものをスクリーンショット、ダウンロード、転送しない。 プラットフォームへの通報とURLに基づく証拠で足りる場合は、そちらを優先してください。
- 誰かに見せるためだけに、追加のコピーを作ったり転送したりしない。 弁護士、被害者支援サービス、プラットフォーム、捜査官が証拠を必要とすることはありますが、まず相手の安全な証拠取り扱い手順を尋ねてください。
公開すると脅している人、すでに公開した人、さらに素材を持っていると主張する人には、金銭や追加の画像など、要求の内容を問わず応じないでください。支払っても相手が確実にやめるわけではなく、要求がさらに増えることがあります。脅しのメッセージを保全し、ステップ4へ進んでください。
ステップ2：この用途のために作られたツールで報告する
性的または親密な画像には、Revenge Porn Helpline（英国の慈善団体SWGfLの一部）が運営する無料ツール、StopNCII.orgのケース作成フローがあります。年齢、画像に写っているのが自分かどうか、すでにどのファイルを持っているかなど、自分のケースに当てはまる最新の利用条件を確認してください。対象となる合成コンテンツについては、フェイクの作成に使われた元の親密画像をどのような場合にハッシュ化できるかを、サービス側が説明しています。ハッシュは自分の端末上で作られ、参加プラットフォームと共有されます。StopNCIIはインターネット全体から画像を削除するサービスではなく、参加していないサイトからコンテンツを削除することはできません。画像に写っている人が18歳未満の可能性があるなら、代わりに児童保護の窓口を利用してください。
米国でのTake It Down Actに基づく次の対応。 まずはプラットフォーム自身の通知・削除手続きを使ってください。利用できる手続きがない場合、または有効な申請から48時間以内に、報告した画像と把握済みの同一コピーが削除されない場合は、そのプラットフォームをTakeItDown.ftc.govから報告してください。FTCのポータルは、AI生成のディープフェイクを含む対象の親密画像について、プラットフォームが法令に従っていないという申告を扱うものです。プラットフォームへの削除申請そのものでも、加害者に対する刑事告発でもありません。StopNCII、プラットフォームへの通報、適切な法執行機関への届け出は、それぞれ別の手順として扱ってください。
StopNCIIにはローカルファイルが必要です。実際に手元にあるものに経路を合わせてください。
- ファイルがすでに自分の管理下の端末にある場合（例：直接送られてきた場合）：ファイルをほかへコピーせず、その端末からStopNCIIを使います。その後、URLもプラットフォームの不正利用報告ツールへ報告します。
- 他人のフィード、自分が管理しないグループチャット、公開ページで見ただけの場合： ハッシュを作るためだけにダウンロードしないでください。URL、プラットフォーム、ユーザー名、日時、内容を文章で記録し、そのURLをプラットフォームの親密画像または不正利用のカテゴリで報告します。脅威があれば法執行機関へ届け出ます（ステップ4）。素材の取得はプラットフォームと捜査機関に任せてください。
性的でないコンテンツ、たとえば本人が言っていないことを言わせる捏造動画、辱めや名誉毀損に使われる改変画像、なりすまし投稿は、一般の問い合わせフォームではなく、プラットフォームの不正利用または安全に関する専用カテゴリから直接報告してください。一部のプラットフォームには、実在の人物になりすます改変・合成メディア専用の窓口があります。該当するカテゴリがあれば利用してください。ただし、「より早く処理される」という説明は保証ではなく、プラットフォームによって異なります。
ステップ3：誰に知らせる必要があるかを意図的に決める
公開の訂正とは異なり、必ず「全員に知らせる」必要がある状況ではありません。誰に知らせるかは、作成者や共有者に決めさせるのではなく、自分の判断で選べます。相手ごとに分けて考えてください。
- すでに見た可能性がある人。 信頼できる親しい友人、パートナー、同僚など、広く告知するのではなく必要な相手を選びます。
- 職務や評判に関係するなら雇用主。 特にコンテンツが同僚、顧客、仕事上のつながりに届く可能性がある場合です。
- 発見したことが自分に大きな影響を与えているなら、有資格のカウンセラーや被害者支援の専門家。 心理面の支援は、通報や法的な手続きとは別のものであり、それらの代わりでもありません。
公表する義務も、誰かに自分の事情を説明する義務もありません。いつ誰に伝えるかを自分で決めることは、主導権を奪おうとする状況から主導権を取り戻す一歩です。
ステップ4：脅威や恐喝があるとき法執行機関を関与させる
素材を公開すると脅す人、金銭や追加の画像を要求する人、またはコンテンツを使って従わせようとする人がいるなら、自分の管轄に合った被害者支援、サイバー犯罪、法執行機関の窓口を利用してください。自分のケースに即した指示を受けずに交渉したり支払ったりしないでください。脅しのメッセージは、届け出を受ける機関が推奨する方法で保全してください。通報の選択肢や証拠に関する義務は、管轄によって異なります。
- 米国： プラットフォームのTake It Down Actに基づく手続きが存在しないか機能していない場合、または有効な申請から48時間以内に削除されなかった場合は、TakeItDown.ftc.govでそのプラットフォームを報告してください。刑事上の脅迫、恐喝、詐欺については、FBI Internet Crime Complaint Centerのic3.govへ通報し、身の安全を直ちに確保する必要がある場合は地元の法執行機関に連絡してください。FBIは子どもとティーン向けのセクストーション（sextortion）ガイダンスも別途公開しています。未成年者が関わるなら、この成人向け手順ではなく子どもがAIディープフェイクの標的になったとき：初動対応計画を使ってください。
- エストニア： 警察・国境警備局のcyber.politsei.eeからサイバー犯罪を報告します。RIAのインターネット安全ガイダンスも、被害者にこの窓口を案内しています。
- その他： その国のサイバー犯罪通報窓口を利用し、差し迫った脅威があれば地元警察にも連絡してください。
自分や他者が即時の身体的危険にあると感じるなら、オンライン報告から始めず、緊急サービスに直接連絡してください。
ステップ5：削除後の対応には弁護士への相談を検討する
コンテンツの削除とプラットフォームへの通報は、素材が掲載された場所への対応です。補償、判明している加害者への正式な申立て、パートナーや元パートナー、あるいは職場、親権・監護、取引関係などを通じて生活に大きな影響力を持つ人が関わる問題までは扱いません。該当する事情があるなら、自分の管轄でオンラインハラスメントや画像を使った虐待に詳しい弁護士へ相談することは、上記の通報とは別の妥当な次の一歩です。
合成であることの証明に時間を使わない
上記の手順はどれも、コンテンツがAI生成なのか、知らないうちに撮影された本物の写真なのかを、先に確実に判定することを前提にしていません。通報ツールや捜査機関は、その点が未確定でも対応できるようになっています。一般公開されている検出器にも、自分だけで確実な結論を出せるほどの信頼性はありません。理由はAI画像の限界、検出器ではないを参照してください。作成方法にかかわらず被害は現実のものとして扱い、先に通報してください。
関連する手順
ディープフェイクが、金銭の要求、偽の緊急事態、知人へのなりすましといった詐欺に使われていたなら、AIを使った詐欺を見分けるで、より広く応用できる確認方法を説明しています。画像ではなく音声が複製された場合は、音声クローンの個人安全で、これと並行するリスクや家庭での備えを扱っています。Content Credentialsのバッジから何が分かり、何が分からないかを知りたいなら、Content Credentialsと透かしの基礎を参照してください。
よくある落とし穴
- 性的コンテンツを「存在を証明する」ため、またはハッシュするためだけにダウンロードしてしまう。 ファイルがすでに自分の管理下の端末にないなら、StopNCII用の新しいローカルコピーを作らず、URLベースのプラットフォーム報告と法執行機関を使ってください。
- 素材を公開すると脅す相手に支払ってしまう。 支払っても相手が確実にやめるわけではなく、「この人は支払う」と思わせ、さらなる要求を招くことがあります。
- 報告前に「どれほど本物に見えるか」を判定しようとしてしまう。 プラットフォームや捜査官があなたから必要とするものは変わらないまま、行動が遅れるだけです。
- 必ず世間に知られると思い込んでしまう。 誰に、いつ伝えるかは、引き続き自分で決められます。
- 子どもの安全に関わるケースと混同してしまう。 未成年者が描かれているなら、そこで止めて子どもがAIディープフェイクの標的になったとき：初動対応計画を使ってください。ツール、法的枠組み、緊急性が異なります。
今日、必要になる前に試すこと
落ち着いている今のうちに、StopNCII.orgをブックマークしておきましょう。強いストレスを感じているときに探す必要がなくなります。万一の際に手順を一か所ですぐ確認したい場合は、成人向けディープフェイク初動チェックリストに、上記の手順と通報先へのリンクをまとめています。
情報源とレビューの境界
- StopNCII：ケースを作成するでは、利用条件、端末上でのハッシュ化、参加プラットフォームの範囲を説明しています。
- TakeItDown.ftc.govは、プラットフォームの削除手続きが存在しないか機能していない場合、またはTake It Down Actに基づく有効な申請から48時間以内にプラットフォームが対応しなかった場合に報告する、米国FTCのポータルです。
- Europol：被害者向けの支援と通報は、関連情報を保全し、支援を受け、公的な通報窓口を利用するよう案内しています。
- FBI Internet Crime Complaint Centerは、米国連邦政府のオンライン犯罪通報窓口です。ほかの国では、それぞれの公的な窓口を利用する必要があります。
これは編集上の確認を終えた初動対応の枠組みであり、個別のケースに対する法的助言や被害者支援の専門的助言ではありません。関係する管轄とプラットフォームについて、現行の法律と公式の被害者支援手続きを適用してください。
