グループチャットやフィードに、スクリーンショット、引用、説明文付きの写真、起きたばかりの出来事についての主張が流れてきます。地名、数字、顔などの具体的な要素があるため、本物らしく見えます。転送は一回のタップで済みますが、確認には時間がかかるため、多くの人は確かめないまま送ってしまいます。
この差は、単に人が怠けているから生じるものではありません。Twitter上で2006年から2017年に広がった約126,000件のニュースの連鎖を調べた大規模研究では、虚偽の情報は真実の情報より多くの人に、より速く届いていました。この傾向は政治に関する主張で特に強く、研究者はボットではなく、新奇性と感情への訴えが関係していると分析しました（Vosoughi, Roy & Aral, “The spread of true and false news online,” Science, 2018）。広まりやすい主張と正確な主張は、しばしば別物です。しかもプラットフォームの見た目からは、今見ているものがどちらなのか分かりません。
ここで紹介するのは、拡散中の主張を実際の発信元までたどる短い手順です。AIは、存在する情報を見つけて整理するために使い、主張が正しいかどうかの判断には使いません。この線引きは重要です。チャットボットに「これは本物ですか」と尋ねると、事実を把握している場合も、もっともらしく空白を埋めているだけの場合も、同じように流暢で自信のある回答を返すことがあるからです。
なぜスクリーンショットは出典ではないか
スクリーンショットから分かるのは、どこかの誰かがその言葉を入力または投稿したということだけです。元の出来事が実際に起きたのか、引用が本物なのか、説明文に書かれた場所と時刻に画像が撮影されたのかは証明できません。さらに、確認に必要な元の投稿、アカウント、時刻、返信も失われます。自分のもとに届くまでに、確認できる原情報から三、四回もスクリーンショットを重ねている場合があります。
最初からチャットボットに「これは本当ですか」と聞かないでください。その聞き方では、もっともらしい推測を招きます。代わりに、元の投稿、元のアカウント、元の情報源を探す手伝いを求めてください。検索対象を見つける作業なら、モデルを有効に使えます。
ステップ1：投稿の中から検証可能な主張を取り出す
まず、説明文、怒りをあおる表現、行動を促す言葉を取り除き、検証可能な一文に絞ります。
次の投稿を受け取りました：[paste it]。ここで主張されている、具体的で
事実に関する確認可能な主張を、平易な一文で1つだけ抽出してください。見せ方、
感情的な言葉、行動喚起は無視し、中心となる主張と、見えていれば元の投稿者や
媒体の名前だけが欲しいです。
「こんなことをしたなんて信じられない」という説明文も、たいていは「ある公人が、ある日に、ある発言をした」といった、より狭く検証可能な主張に絞れます。実際に確認するのは、その一文です。
ステップ2：説明ではなく、元の投稿を見つける
主張の発信元を探すようモデルに頼みます。このとき、必要なのは情報源であり、その情報源に書かれていそうな内容の要約ではないと明示してください。
次の主張について：「[claim from step 1]」。元の出典が何でありそうか
（特定の報道機関、公式アカウント、プレスリリース、裁判文書）を特定し、
元の投稿や記事を直接どう検索するかを手伝ってください。主張が正しいか、
出典が何と言うかは言わないでください。自分で確認します。
リアルタイム検索に接続していないチャットモデルは、現在の投稿を閲覧できません。その回答は調査計画として扱い、調査結果とは考えないでください。ツールにウェブ検索機能がある場合は、この段階で有効にし、記憶に基づく説明ではなく、自分で確認できるリンクを返させます。その後、すべてのリンクを自分で開いてください。リンク切れの場合や、リンク先に対象の主張が載っていない場合もあります。
ステップ3：元の情報を直接確認する
ステップ2で見つけた元の投稿、記事、アカウントを実際に開きます。次の三点を確認してください。アカウントはスクリーンショットから想定されるものと一致するか、日付は説明されている出来事と一致するか、元の表現は自分に届いた内容と一致するか。もっともらしい説明をいくつか経由する間に、主張が実際の発言からずれることがあります。スクリーンショットをさらに撮影して広める過程で、そのずれが積み重なります。
元の投稿がまったく見つからず、アカウントが存在しない、媒体が公開していない、引用された出来事をほかの情報源も扱っていない場合は、その欠如自体を強い手がかりと考えてください。別のAIへの質問で空白を埋めてはいけません。実際に起きた重要な出来事が、検証できない一枚のスクリーンショットだけで報じられていることは、ほとんどありません。
ステップ4：主張が誠実に使われているかを確認する
写真や引用が本物でも、不誠実な形で提示されることがあります。古いものを現在の出来事として見せる、別の出来事の素材を使う、意味が変わるほど文脈を省く、といった場合です。これは、主張そのものが捏造かどうかとは別に確認する必要があります。
元の出典が実際に示している／述べている内容は次のとおりです：[paste it]。
次を洗い出してください：もともといつ公開されたか、実際にどの出来事を記録しているか、
受け取った内容が元にない主張・日付・文脈を足しているか。全体の見せ方が妥当かどうかは
言わず、一致するものと一致しないものだけを示してください。
ステップ5：判断し、書き残す
主張、元の情報源、その使われ方を確認したら、三つのうち一つを選びます。内容を確認できたので共有する、不足していた文脈を添えて共有する、情報源を確認できないか提示内容が元情報からずれているため共有しない、のいずれかです。「確認できなかったため共有しない」と書き残す方が、何も言わないより次に読む人の役に立つことがあります。この習慣によって、虚偽の情報が広がる連鎖に加わらず、そこで止められます。
拡散中の主張の出典追跡ワークシートでは、この五つのステップに沿って、元の投稿、情報源の連鎖、最終判断を記録できます。
確認ツールキットの他の部分との位置づけ
この方法は幅広い用途を想定しており、政治的な主張、自然災害の写真、職場の噂にも使えます。ただし、十分に扱えない状況もあります。健康情報を確認する場合は、実在する研究結果が一般の人にも当てはまるかを追加で検討する必要があります。AIが作ったニュース要約を確認する方法では、実際の記事をチャットボットが圧縮したものが「出典」になっている場合を扱います。単独の転送ではなく、進行中のグループ会話で主張を見かけた場合は、グループチャットで対立を招かずに噂を止める方法を参照してください。事実を調べる最初の手段として検索とチャットのどちらを使うかについては、「事実確認では検索とチャットをどう使い分けるか」で説明しています。
よくある落とし穴
- 「どこから来たのか」ではなく「これは本当か」と聞く。 後者は答えのように見える推測を招きます。前者なら、情報の発見と整理という、モデルを活用しやすい作業に限定できます。
- スクリーンショットを元情報だと信じる。 スクリーンショットを重ねるたびに、確認に必要なアカウント、投稿時刻、文脈が失われます。
- 「似た主張をほかでも見つけた」時点で止める。 未確認の主張をほかの人が繰り返しても、独立した裏付けにはなりません。Scienceの研究が示す同じ拡散の連鎖です。
- 「念のため、みんなに知らせる」と転送する。 未確認の主張を流すことは中立的な公共サービスではありません。受け取った全員に同じ確認作業を負わせ、虚偽なら実害につながります。
- ハルシネーションのリスクを軽く扱う。 AIが自信を持って誤答する理由では、モデルが存在しない「元の情報源」をもっともらしく説明できる理由を扱っています。リンクは必ず自分で開いてください。
今日やってみる
次にチャットやフィードで転送したくなる投稿を見つけたら、まず五つのステップを実行してください。主張を取り出し、発信元を探し、元情報を直接確認し、文脈が変えられていないかを調べ、判断を記録します。拡散中の主張の出典追跡ワークシートを使い、一度きりではなく習慣にしてください。
