画像を見せられ、「これはAIで作られたもの？」と尋ねられたとします。指の数が多い、文字が崩れている、肌がろうのように見えるといった典型的な特徴を探すか、「AI検出器」と呼ばれるツールへ画像を入れたくなるでしょう。どちらも自然な反応ですが、重要な弱点があります。目に見える特徴は、モデルが更新されるたびに減っています。検出ツールにも、画面がどれほど自信ありげに見えても解消しない信頼性の問題があります。
この記事では、AI画像ツールが今も苦手とする具体的なパターンと、人間にも自動ツールにも、一枚の画像について確実な判定を出せない理由を説明します。
今も見られる失敗パターン
次の分類は、確率を測定した保証ではなく、経験的な手がかりです。情報源を詳しく確認する理由にはなりますが、ツールの能力は変化します。手がかりが見当たらないからといって、画像の由来を断定することはできません。
手や細かな身体構造。 複雑な手の形、重なった指、珍しい姿勢では、顔や単純な姿勢より目に見える誤りが生じやすい傾向があります。ただし、最新のツールはこの点でも大きく改善しています。
画像内の文字。 看板、ラベル、画像に含まれる文字の品質は、ツールやバージョンによって異なります。きれいに見える場合もあれば、単語に近いだけの文字、統一されていない字形、部分的ににじんだ文字が現れる場合もあります。読みやすく見えることは、AI生成かどうかを判断する強い証拠にはなりません。
正確な個数と同じ形の反復。 同一の物体を指定した数だけ描かせても、個数が合わないことがあります。これは画像生成だけでなく、モデル自身による画像の説明にも当てはまります。
複数の画像やフレーム間の一貫性。 一枚の画像は完璧に見えても、同じ人物や物体をもう一度生成したときや、動画のフレームが進んだときに、細部が少しずつ変化することがあります。
反射、影、物理的に整合する照明。 生成ツールは、物理法則に正確な光と影より、もっともらしく見える光と影を作りやすい傾向があります。
どの手がかりも、単独で断定に使えるほど確実ではありません。うまく生成された画像には一つも現れないことがあり、本物の写真にも不自然な影や奇妙に見える手が写ることがあります。証明ではなく、もう一度詳しく確認するきっかけとして使ってください。こうした特徴はすぐ古くなるため、この一覧を永久に通用するものと考えず、現在のツールでも確認します。
「AI検出器」ツールが確実性を与えられない理由
NISTの合成コンテンツの透明性に関する報告書は、検出、透かし、来歴、表示を、それぞれ異なる方法として検討し、研究上の未解決点と実装上の限界を示しています。NISTが継続している生成AIの評価プログラムと画像分野の課題では、定められた試験条件のもとで生成器と識別器を評価しています。検出結果は、このように、特定のシステム、データセット、画像変換、評価日の条件における性能として理解すべきです。あらゆる生成器が作ったすべての画像を認定する結果ではありません。
職場での争い、人間関係の衝突、公の場での非難など、重大な結果を伴う判断で、検出ツールのスコアを決め手にしてはいけません。偽陽性によって本物の写真を誤って偽物と扱うことも、偽陰性によって説得力のある捏造を見逃すこともあります。検出結果を使うとしても、この記事にあるほかの確認方法と併用する弱い判断材料の一つにとどめ、最終判定として扱わないでください。
実際に役立つ確認方法（有効性の高い順）
来歴情報がある場合は、それを確認する。 C2PA規格にもとづくContent Credentialは、誰がファイルへ署名し、どのような作成または編集履歴を申告したかを示せます。検出器による推測より強い証拠ですが、作成ツールと配信先が対応し、ファイルが届くまで情報が失われていないことが前提です。バッジが何を証明し、何を証明しないかは、Content Credentialsと透かしの基本で説明しています。
元の情報源を探す。 多くの画像では、画素だけを調べるより、そのファイルが最初にいつ、どこで、誰から公開されたかをたどる方が役立ちます。画像検索や、画像が示すとされる出来事を直接検索すると、元の文脈が見つかる場合があります。ただし、検索で見つからないことは、捏造の証明にはなりません。
ほかの確認済み情報と一致するか調べる。 その出来事を、独立した別の情報源も報じているでしょうか。場所、服装、時刻は、ほかに確認できる情報と一致するでしょうか。検出ボタンを押すより時間はかかりますが、信頼性は高くなります。
前述の失敗パターンは、補助的な手がかりにだけ使う。 詳しく見る価値はありますが、それだけで結論を出してはいけません。
疑わしい一枚だけの話ではない
同じ理由から、合成メディアの来歴と同意を考えるときも、Content Credentialは役に立つものの、それだけでは十分ではありません。また、自分が被害を受けたディープフェイクへ対応する場合は、まず合成物だと「証明」しようとして通報を遅らせてはいけません。自分で画像を生成し、現在のツールが得意なことと日常的な限界を知りたい場合は、AI画像生成101で、同じ限界をツール選びとプロンプトの側から説明しています。
よくある落とし穴
- 「目に見える特徴がない」ことを本物の証明にする。 前述の典型的な誤りがないのは、モデルがそれらを避けたことを示すだけで、画像が本物だという意味ではありません。
- 検出器のパーセントを、画像そのものについての事実だと考える。 その数値が示すのは、特定の検出器が、その学習と評価条件にもとづき、その日に画像をどう採点したかです。
- 緊急の行動より先に、合成物だと「証明」しようとする。 有害コンテンツの通報など、すぐ対応すべきことがある場合は、検出器を次々に試して対応を遅らせてはいけません。AIが自信をもって誤答する理由では、別の場面における同じ過信の問題を扱っています。
- 将来のツールが、この確認手順を不要にすると考える。 生成技術と検出技術はどちらも変化します。現在の独立した評価結果を確認し、視覚的な特徴の一覧を永久に使えるものとして保存しないでください。
今週やってみる
次に画像を見て疑問を感じたら、検出アプリへ入れ、表示された数値を信じる前に立ち止まってください。まず元の情報源を探し、前述の失敗パターンは補助的な手がかりとして確認します。プラットフォームが対応していれば、Content Credentialも調べてください。AI画像ツールの限界チェックリストを使い、適切な項目を適切な順序で確認する習慣を身につけましょう。
