自殺や自傷の考えがある、または直ちに安全が心配な場合は、今すぐ地域の緊急サービスに連絡するか、IASPの危機リソースから支援を求めてください。この記事を先に読み終えるのを待たず、このステップの代わりにチャットボットを使わないでください。
汎用AIチャットボットは、ほぼどんな話題についても、時間を問わず、批判されていないと感じられる言葉で会話を返せます。いつでも応じるため、説明責任を伴う臨床ケアではないのに、セラピストやカウンセラー、打ち明け相手のように扱いたくなることがあります。
この記事では、その境界をできるだけ明確に示します。チャットボットが安全に手伝えること、代わりに信頼できる人に相談すべきこと、必ず資格を持つ専門家や緊急サービスにつなぐべきことを分けます。つらいときに汎用アシスタントを頼りたくなる人、つまりAIを日常的に使う人の大半がいずれ直面しうる状況を想定しています。
なぜ独立した記事が必要だったか
2026年1月29日、AI、メンタルヘルス、倫理、公共政策を専門とする世界各国の30人超が、まさにこの問題を扱うWHO支援のワークショップに集まりました。主催はWHO協力センターでもあるデルフト工科大学のDelft Digital Ethics Centreです。WHOは2026年3月にその概要を公開しました。WHOのKenneth Carswell博士は、連携の必要性を明快に説明しています。「メンタルヘルス分野の生成AIによるリスクを最小限に抑え、利益を最大化するには、最も影響を受ける人々の声、臨床と研究の専門知識、ガバナンスと規制の枠組み、そして理解を深めるためのデータを結集する必要がある」（WHO、2026年3月）。デルフト工科大学のCaroline Figueroa博士は、危機時に適切な支援へつなぐ枠組みと説明責任の仕組みについて、早急な合意が必要だと強調しました。WHOのAI責任者Sameer Pujariは、根本的な問題を率直に述べています。「人々の日常生活にAIが普及する速度は、メンタルヘルスへの影響を理解するための投資をはるかに上回っている。」
米国心理学会（APA）も、別の角度から同様の結論に達しています。生成AIチャットボットとウェルネスアプリに関する健康勧告によると、生成AIチャットボットはメンタルヘルスケアを提供するために作られたものではなく、ウェルネスアプリも心理疾患の治療用に設計されたものではありません。それでも両者はその目的で頻繁に使われており、「意図しない影響をもたらし、メンタルヘルスを害することさえある」とされています。特に不安、OCD、反芻傾向のある人では、いつでも使えて同調的なチャットが、苦痛の循環を断つどころか強める可能性があります（APA健康勧告、2025）。
同じ勧告は、青少年について特にこう指摘しています。「若者はAIを過度に信頼し、実際以上に人間らしい、または有能な存在だと捉えることがある。」青少年のウェルビーイングを扱うAPAの別の勧告は、AI上の人格に強く愛着を持つと、現実の人間関係や社会的スキルを育てる機会を奪いかねないと付け加えています（APA「Artificial Intelligence and Adolescent Well-being」、2025）。最初の勧告は、不安やOCDのある人、思考の乱れがある、または起こりやすい人、社会的に孤立している人も年齢を限定せず挙げています。この問題は十八歳を境に消えるものではありません。
これは想定上のリスクではありません。2025年の研究では、心理的苦痛への対応をうたう24種類と汎用アシスタント5種類、計29種類のAIチャットボットを、自殺リスクが段階的に高まる標準化されたプロンプトで試験しました。研究者が定めた十分な応答の全基準を満たしたものは一つもなく、基準を緩めても48.28％が不十分と評価されました。必要な場面で利用可能な緊急連絡先を提示できないことも、共通する問題でした（Pichowicz, Kotas & Piotrowski, Scientific Reports, 2025）。サンプルに含まれた5種類の汎用アシスタントは、多くのメンタルヘルス専用アプリよりも、研究上の最低限の応答指標では良い成績でした。しかし、それは安心材料ではありません。日常の話し相手として使われるツールを含め、危機対応が全体として不十分だったということです。
この文脈で、モデルとは実際に何なのか
チャットボットは、利用できる情報とツールから応答を生成します。感情はなく、文脈がどれだけ保持されるかは製品・アカウント・メモリ設定によって変わります。汎用チャットボットは、あなたの資格ある臨床家ではなく、治療関係を築いてもおらず、状況の全体を観察することもできず、ケアで期待される専門的なフォローアップを提供することもできません。温かく明瞭な応答は、モデルがあなたを理解した、あるいは評価したという証拠にはなりません。根底にある情報の信頼性の問題については、AIが自信たっぷりに誤った回答をする理由を参照してください。
だからといって、このツールが役に立たないわけではありません。役立つ範囲が限定され、越えてはいけない境界があるということです。
緑／黄／赤の表
| ゾーン | 用途 | 例 | 理由 |
|---|---|---|---|
| 🟢 緑——比較的低リスクの文章支援 | 日常的な状況について自分の言葉を整理する、人に尋ねる質問を下書きする | 「明日の評価面談が不安です。言いたいことを整理するのを手伝ってください。」 | モデルがしているのは、あなたが渡した情報の整理。それでもプライバシー、情報の抜け、既存の見方を強めるリスクは残る |
| 🟡 黄——説明責任のある人の支援へ移る | 繰り返す苦痛、悲嘆、関係の対立、感情が高ぶった状態での重大な決定、人の代わりにチャットを使う習慣 | 「パートナーと同じ議論を繰り返し、理由が分からない。」 | モデルは説明を検証できず、相手の視点も見えず、原因を診断できず、説明責任のあるフォローアップも提供できない |
| 🔴 赤——今すぐ緊急・危機支援を使う | 自殺や自傷の考えや計画、差し迫った危険、現在の安全リスクを伴う脅迫や虐待、重度の見当識障害や現実との接触の喪失、他者を傷つけるおそれ | 上記のいずれか、どのような形でも | モデルは差し迫ったリスクを確実に評価も管理もできず、助けを派遣することも、人の安全を守ることもできない |
完全版のAIメンタルヘルス境界表では、各行についてさらに例を挙げ、入力を始める前に使えるセルフチェックも掲載しています。
緑ゾーンの例、うまくやった形
緑ゾーンの使い方はこうです。事実と目標はあなたが出し、モデルは整理を助け、判断はあなたが持ち続けます。
明日は評価面談があり、予想される特定のフィードバック1点について不安です。
状況は次です：[facts]。
次に整理するのを手伝ってください。認めたいこと、加えたい文脈、聞きたい質問1つ。
上司の予想フィードバックが公正かどうかは言わないでください——判断するのに十分な情報は
渡しておらず、それを頼んでもいません。
モデルが実際には評価できないことについて結論を出さないよう、明示している点に注目してください。この指示には実質的な意味があります。なければ、モデルは一方から聞いた情報しかない状況でも、自信ありげな解釈を示しがちです。
黄の状況が感じるよりリスクが高い理由
黄ゾーンの依頼は、まだ「話しながら整理している」だけなので、緑ゾーンと似ているように感じます。しかし、出力は文章作成の補助ではなく、いつの間にか判断材料になりかねません。人間関係の対立、動揺しているときの大きな金銭判断、長引く悲嘆について意見を求めると、モデルは筋が通っていて慰めになる文章を返すかもしれません。慰められることは、内容が正しい証拠ではありません。システムには相手の視点も、説明責任を伴う専門的な判断もなく、プロンプトに示された見方を問い直さず、強めてしまうことがあります。負担の大きい判断の前に一度立ち止まる方法が必要なら、AIでより良い意思決定をするを参照したうえで、状況に合う人にも相談してください。
黄と赤の会話は、AIツールに入れる機微データの中でもいちばん敏感な部類です。あとで保存されたり人間のモデレーターに見られたりしたくない内容に個人アカウントを使う前に、ChatGPTが記憶し、参照し、共有するものを読んでください。
赤の状況がチャットボットの仕事では決してない理由
3つの別の事実が同じ結論を指します。
- 治療関係も、説明責任のあるケアチームもない。 資格ある臨床家や危機支援サービスは、専門職上・組織上・法域固有の義務の枠内で動きます。汎用チャットボットとのやり取りは、そうしたケアの関係の代わりにはなりません。
- 危機検出が信頼できない。 上記2025年のチャットボット試験研究は、まさにこのシナリオでの体系的な失敗を見つけました。29エージェントのどれも十分性の基準を完全には満たさず、それはメンタルヘルス専用アプリと汎用アシスタントの両方にわたります（Pichowiczら、2025）。そのサンプルの汎用アシスタントはGPT-4o mini、Gemini 2.0 Flash、DeepSeek-v1、LeChat、Llama 3.1 8Bでした。Claudeは含まれておらず、ここではより安全なのではなく、未測定です。
- 現実世界での介入が確実に行えない。 汎用モデルは、あなたを診察することも、居場所を確認することも、紹介が実際につながったことを保証することも、危機が必要とする即時のフォローアップを提供することもできません。
あなたや心配している誰かが赤ゾーンの状況にあるなら、AIとの会話を止め、代わりに次のいずれかを行ってください。
- 地域の緊急サービスに連絡する——番号は国によって違います。AIツールやウェブサイトが教える番号ではなく、自分の緊急システムが公開する番号を使ってください。
- **IASPの自殺危機支援ページ**を使い、状況と場所に適した危機リソースを見つける。
- 信頼できる人に直接連絡する——メッセージを送って気づいてもらうのを待つだけでなく、電話してください。
- 最寄りの救急外来へ行く——自分や他者が直ちに危険にある可能性がある場合。
より完全なエスカレーションのはしご——完全な危機ではないが、チャットボットがそれでも次の一歩として間違っている状況を含む——は、チャットを止める：プロンプトではなく人を必要とする5つの状況を参照してください。
まだ良い答えがないもの
WHOによると、この分野には、危機時に適切な支援へつなぐための共有された説明責任のある枠組みが、いまだありません。WHOのAI責任者Sameer Pujariは、導入速度と知見の間にある隔たりを埋めるには、「官民双方の連携した行動と専用の資源」が必要だと述べています。個人の読者だけで解決できる問題ではありません（WHO、2026）。自分で管理できるのは、使い方です。会話が本当はどのゾーンにあるのかを見極め、緑から黄または赤へ移った時点で人につないでください。
今日試す
次に感情的に重い会話をAIツールとする前に、いったん止まり、上の表のどこに当たるかを確かめてください。緑なら、範囲を絞った文章作成のタスクとして使い、個人データを守ってください。黄なら、チャットに頼るのではなく、その問題を信頼できる人か資格ある専門家のほうへ移してください。赤なら、やめて、地域の緊急または危機支援を今すぐ使ってください。
ここに書かれていることは、セラピーでも、トリアージでも、診断でも、個別の危機評価でもありません。苦痛やリスクがある場合は、チャットを続けるのではなく、適切な資格を持つ人か地域の危機支援サービスを利用してください。
