如果你有自杀或自伤的想法，或担心自己的即时安全，请立即联系当地紧急服务，或通过IASP危机资源寻求支持。不要先等读完本文，也不要用聊天机器人替代这一步。
通用AI聊天机器人几乎可以就任何话题、在任何时间生成一段有来有回的对话，用的语言可能让人感觉不带评判。这种随时可得，容易让人把这个系统当作治疗师、咨询师或倾诉对象，尽管它并不提供可问责的临床照护。
本文尽可能清楚地划出那条界线：聊天机器人可以安全帮什么，什么应交给可信的人，什么始终需要合格专业人士或紧急服务。它写给任何在艰难时刻想倚靠通用助手的人——而在某个时点，这几乎是所有经常使用AI的人。
为什么需要单独一篇文章
2026年一月29日，30多位来自AI、心理健康、伦理与公共政策领域的国际专家，参加了WHO支持的专题研讨会，讨论的正是这个问题（由代尔夫特理工大学的Delft Digital Ethics Centre组织，该中心为WHO合作中心）。WHO于2026年三月发布了研讨会摘要。WHO的Kenneth Carswell博士把协作需求说得很清楚：“在最大化益处的同时，将生成式AI对心理健康的风险降至最低，需要把受影响最深的人的声音、临床与研究专长、治理与监管框架，以及用于形成理解的数据汇聚在一起”（WHO, March 2026）。代尔夫特理工大学的Caroline Figueroa博士强调，迫切需要就危机转介框架与问责系统达成共识。WHO的AI负责人Sameer Pujari把底层问题说得更直白：“AI被人们纳入日常生活的速度，已远远超过对理解其心理健康影响的投入。”
美国心理学会从另一角度得出相似结论。其关于生成式AI聊天机器人与健康类应用的健康咨询指出，GenAI聊天机器人并非为提供心理健康照护而创建，健康类应用也并非为治疗心理障碍而设计，但这两种技术却常被用于这些目的——而这“可能产生意外影响，甚至伤害心理健康”，尤其对焦虑、强迫症或有反刍倾向的人；对他们而言，迎合的、随时可用的聊天可能强化而非打断令人痛苦的循环（APA health advisory, 2025）。
同一份聊天机器人/健康应用咨询特别标出青少年：“年轻人可能对AI过于信任，把它看得比实际更像人或更有能力。”相关的青少年福祉咨询补充说，对AI人设的强烈依恋可能挤占现实世界关系与社交技能的发展（APA, “Artificial Intelligence and Adolescent Well-being,” 2025）。第一份咨询还列出不按年龄划定的群体——有焦虑或强迫症的人、有或易有紊乱思维的人、社交孤立的人——因此这种拉力并不止于十八岁。
这不是假设性风险。一项2025年研究用一套模拟逐步升级自杀风险的标准化提示词，测试了29个AI聊天机器人智能体——其中24个以缓解心理困扰为卖点，5个是通用助手。没有一个智能体达到研究者关于充分回应的全部标准；即使在放宽标准下，仍有48.28%被评为不充分；常见失败是在最关键时刻无法提供可用的紧急联系信息（Pichowicz, Kotas & Piotrowski, Scientific Reports, 2025）。样本中的五个通用助手，在研究的边缘回应指标上实际上优于许多心理健康专用应用——这并不令人安心。这意味着危机处理在整个样本中都失败了，包括人们已当作日常同伴的工具。
在此情境中，模型究竟是什么
聊天机器人根据它可获得的信息与工具生成回应。它没有感受，而它保留多少上下文，取决于具体产品、账户和记忆设置。通用聊天机器人不是你的持证临床医生，没有建立治疗关系，看不到完整处境，也无法提供照护中应有的专业随访。温暖、流畅的回应并不能证明它理解你或评估过你。底层的信息可靠性问题，见为什么AI有时会给出自信却错误的答案。
这一切并不让工具无用。它让这个工具成为一种特定的、有边界的有用——而且边界很硬。
绿/黄/红表格
| 区域 | 用例 | 例子 | 原因 |
|---|---|---|---|
| 🟢 绿色——低利害的写作辅助 | 把你自己对某个日常情境的说法整理清楚，或起草要问某个人的问题 | “明天绩效面谈我很紧张——帮我整理想说的话。” | 模型只是在整理你提供的信息；隐私、遗漏与强化既有想法的风险依然存在 |
| 🟡 黄色——转向可问责的真人支持 | 反复出现的情绪困扰、哀伤、关系冲突、在情绪被激起时做的重大决定，或用聊天代替找人的习惯 | “我和伴侣总是吵同样的架，不知道为什么。” | 模型无法核实你的叙述，看不见对方的视角，无法诊断原因，也无法提供可问责的随访 |
| 🔴 红色——立即使用紧急或危机支持 | 自杀或自伤的想法或计划、即时危险、伴随当下安全风险的威胁或虐待、严重的意识混乱或与现实脱节，或有伤害他人的风险 | 以上任一种，任何形式 | 模型无法可靠评估或管理即时风险，无法派出援助，也无法保证一个人的安全 |
完整的AI心理健康边界表为每一行扩展了更多例子，以及你可以在开始打字前运行的自检。
一个做得好的绿色区例子
绿色区使用看起来像这样：你提供事实和目标，模型帮忙组织，判断权留在你。
明天有绩效面谈，我对预期会收到的一条具体反馈感到焦虑。
情况如下：[事实]。
帮我整理成：我想承认什么、想补充什么背景，以及我想问的一个问题。
不要告诉我经理可能给出的反馈是否公平——我没有给你足够信息
来做这个判断，我也没有要求你这样做。
注意那条明确指示：不要对模型实际上无法评估的事下判决。这条指示在做实事——没有它，模型往往会就它只从一面听到的情况，给出听起来很自信的解读。
为什么黄色情境比感觉上风险更高
黄色区请求感觉上与绿色相似——你仍只是在“说清楚”——但输出可能悄悄变成决策输入，而不只是写作辅助。被要求对关系冲突、情绪不好时的重大财务选择，或持续的哀伤发表意见时，模型可能产出连贯而令人安慰的内容。安慰不等于正确。这个系统缺少对方的视角，也缺少可问责的领域判断，而且它可能强化提示词里的框架，而不是挑战它。若你需要一种结构化方式来放慢压力下的决定，见用AI做出更好决策，然后把合适的人拉进来。
黄色与红色的对话，往往也是你可能放进AI工具里的最敏感的数据。在把个人账户用于任何你不希望被存储、或不希望日后被人工审核员查看的内容之前，先看ChatGPT会记住、看到和分享什么。
为什么红色情境永远不是聊天机器人的工作
三项独立事实指向同一结论：
- 没有治疗关系，也没有可问责的照护团队。 合格的临床人员与危机服务是在专业的、机构的、以及因司法辖区而异的义务框架内工作的。与通用聊天机器人的一次交互，不能替代这种照护关系。
- 危机检测不可靠。 上文引用的2025年聊天机器人测试研究发现，正是在这一场景中存在系统性失败：29个智能体无一达到充分回应的全部标准，涵盖专用心理健康应用与通用助手（Pichowicz et al., 2025）。该样本中的通用助手是GPT-4o mini、Gemini 2.0 Flash、DeepSeek-v1、LeChat和Llama 3.1 8B；Claude不在其中，因此此处是未被测量，而非更安全。
- 无法可靠地在现实世界中介入。 通用模型无法对你做检查，无法核实你的位置，无法确保一次转介真正接上，也无法提供危机可能需要的即时随访。
如果你或你担心的人处于红色区情境，停止与AI的对话，改做以下步骤之一：
- 联系当地紧急服务 —— 号码因国家而异；使用你自己紧急系统公布的号码，而不是AI工具或某个网站告诉你的号码。
- 使用IASP自杀危机支持页面，查找适合你情况和所在地的危机资源。
- 直接联系可信的人 —— 打电话给他们，不要只发消息并希望他们看到。
- 前往最近的急诊，若你或其他人可能面临即时危险。
更完整的升级阶梯——包括尚未构成全面危机、但聊天机器人仍是错误下一步的情境——见停止聊天：五种需要找人、而不是再发一条提示词的情况。
仍没有好答案的部分
WHO指出，该领域仍缺少共享、可问责的危机转介框架。WHO的AI负责人Sameer Pujari把投入缺口说得很直白：弥合人们采用这些工具的速度与我们对其心理健康影响理解之间的证据差距，需要“公共与私营部门协调行动与专项资源”——不是单个读者能独自修好的事（WHO, 2026）。你能控制的是自己的使用：知道一段对话真正处于哪个区域，并在它从绿色滑向黄色或红色的那一刻转向真人。
今天就试
在下一次与AI工具进行情绪负荷重的对话之前，先停下来，把它放进上面的表格。若是绿色，只做那个范围很窄的写作任务，并保护好私人数据。若是黄色，把问题转向一个可信的人或合格的专业人士，而不是依赖这段聊天。若是红色，停下来，立即使用当地的紧急或危机支持。
本文中的任何内容都不是心理治疗、分诊、诊断，也不是针对个人的危机评估。如果存在情绪困扰或风险，请使用合适的合格专业人员或当地危机服务，而不是继续这段聊天。
