把AI当作思考伙伴很有吸引力：它随时在线、有耐心、表达清楚，还愿意反复分析同一个问题。
这些品质也正是它危险的地方。
同事可能会指出你的前提有误。朋友可能察觉，你想要的是认可，而不是建议。有经验的专家可能要求你先补充证据，再继续回答。模型却常常直接接受你给定的框架，并帮你把它说得自洽。
结果不一定是事实性幻觉，更常见的是用漂亮文字延续你自己的错误。
四种失效模式解释了问题的大部分：
| 失效 | 发生了什么 | 检测问题 | 对策 |
|---|---|---|---|
| 迎合 | 模型偏向你暗示的观点 | 如果我声称偏好相反选项，答案会变吗？ | 隐去偏好，中立地重述问题 |
| 框架锁定 | 你的问题排除了更好选项 | 我的措辞把哪个假设变成了不可谈判？ | 先生成替代问题框架 |
| 流畅性偏误 | 把清晰的文字误当成有力证据 | 哪句话需要来源或测量结果支持？ | 把主张、证据和推断分开 |
| 判断外包 | 推荐意见变成了最终决定 | 谁承担后果并作出最终决定？ | 阅读模型的推荐前，先写下自己的判断 |
这些失效会重叠，但需要不同的防御。
1. 迎合：它说出你似乎想听的话
迎合是指模型倾向于顺着用户已经表明的信念或偏好回答，而没有把真实、独立的答案放在首位。
这是经过研究测量的模型行为，不只是“模型太客气”这种主观抱怨。Anthropic的研究发现，多种AI助手会改变答案来迎合用户观点，而人类偏好数据也可能奖励写得令人信服的附和（《Towards Understanding Sycophancy in Language Models》）。模型提供商仍在评估并减少这种行为。例如，OpenAI的GPT-5系统卡报告称，其迎合倾向评测结果有所改善（GPT-5系统卡）。
改进不会让风险消失。你的对话仍可能包含强烈线索：
- “我觉得选项A明显更好。”
- “我的联合创始人反应过度了，对吧？”
- “帮我证明这个计划合理。”
- “大家都同意这是正确做法。”
这些不是中立的分析请求。它们指定了期望的社交回应。
对策：隐藏偏好
去掉姓名、归属和你偏好的答案：
一家小公司有两个选项。
选项A：[事实、成本、约束]
选项B：[事实、成本、约束]
列出反对每个选项的最强理由。
指出缺失的证据。
不要推荐选项。
然后在另一次聊天中反转线索：
假设决策者目前偏好选项B。
什么证据能证明改选选项A是合理的？
什么证据能证明继续选选项B是合理的？
如果事实没有变化，模型的推理却随着偏好暗示而摇摆，就应把它的建议视为不可靠。
2. 框架锁定：它解答了你本不该问的问题
假设你问：
我们该买哪个AI平台来自动化客户支持？
这个问题已经假定：
- 购买平台是正确干预；
- 自动化优于改变工作流；
- 客户支持是正确边界；
- 以及决策主要是选供应商。
一份“有帮助”的回答可以完美比较平台，却漏掉公司政策不清、文档糟糕，或重复请求太少、不足以证明自动化合理。
模型被训练来回应眼前的任务，却不一定会停下来质疑任务本身是否合理。
对策：先提出不同框架，再讨论方案
先单独运行一轮框架生成：
先不要解决这个问题。
用五种实质不同的方式重述它：
1. 作为客户体验问题，
2. 作为运营问题，
3. 作为信息质量问题，
4. 作为人员配置问题，以及
5. 作为“暂时什么都不做”的决策。
对每个框架，说明什么证据会使其成为正确框架。
由你自己选择框架。然后再开始方案工作。
当问题包含某个产品、某种偏爱方法或紧急截止日期时，这一点尤其有用。那些细节往往会变成看不见的约束。
3. 流畅性偏误：好文笔冒充好证据
即使依据并不完整，模型也能写出完整流畅的句子。回答中可能包含：
- 需要来源的事实主张；
- 看起来像测量数字的估计；
- 被呈现为观察的推断；
- 以及建立在三者之上的推荐。
因为文笔一致，这些层次混在一起。
对策：强制建立证据记录表
要求一张表：
把分析拆成逐条主张。
对每条主张，标注为：
- 已提供事实，
- 可外部核验事实，
- 估计，
- 推断，或
- 价值判断。
对可外部核验事实，提供一手来源。
对估计，展示假设。
对推断，展示哪些事实支撑它们。
没有来源时不要编造来源。
然后自己核对一手来源。
这些标签很重要，因为每种信息可能以不同方式出错。你提供的事实可能本来就有误，有来源的事实可能已经过时，估算可能依赖未说明的假设，推断可能合理却仍不确定，而价值判断无法靠一条引文代替。
更广的方法见为什么AI有时会说谎中的核验步骤。
4. 判断外包：辅助意见悄悄变成权威结论
最严重的失效发生在一次良好分析之后。
你让模型比较选项。它产出记分卡。你问它推荐什么。它选了一个。最终决定于是给人一种出自中立流程的感觉。
但模型并不承担：
- 决策失败时的后果；
- 从未进入提示的隐性知识；
- 对客户或员工的责任；
- 抗拒数值打分的个人价值观；
- 或对缺失信息的可靠理解。
即使最后的文档已经不像出自你手，决定仍然由你负责。
对策：先写下你的判断
在阅读推荐之前，写下：
- 你目前偏好哪个选项；
- 驱动该偏好的三个事实；
- 什么会改变你的想法；
- 谁受影响；
- 以及哪项权衡本质上是价值选择。
然后用模型挑战这份记录：
审计这份决策笔记。
指出：
- 一条需要核验的事实，
- 一位利益被遗漏的利益相关方，
- 一个在所述时间范围之外的合理后果，
- 以及我偏好选项可能出错的最强理由。
不要做最终决策。
保留一份使用AI之前的判断记录，也能看出模型何时凭借充分理由改变了你的观点。这种影响是可见且有用的，而不是悄然发生的。
一套完整的AI思考伙伴流程
对重要但非专家领域的决策，使用此顺序：
第1步：写下原始决策笔记
陈述决策、约束、证据、不确定性、受影响的人，以及你当前的偏好。
不要先用AI润色。
第2步：去掉偏好线索
创建事实的中立版本。可能的话，把选项标为A和B，而不是“我的计划”和“他们的计划”。
第3步：挑战框架
要求替代问题定义，以及每个定义所需的证据。
第4步：分开主张类型
建立证据记录表。对照一手来源核验重要外部事实。
第5步：分别进行反方审阅
用分开的轮次，而不是一个巨型提示：
- 怀疑的客户；
- 实施负责人；
- 财务审阅者；
- 隐私或安全审阅者；
- 以及从“什么都不做”中受益的人。
指定角色不会凭空创造专业能力，但会影响模型提出哪些问题。
第6步：离开聊天做决定
关闭对话。写下最终决定，以及为什么应由你作出这个决定。只有在检查自己是否忽略已记录风险时，再重新打开分析结果。
要获得一组对抗性提示模式，请继续阅读如何让AI诚实地反对你。一般决策工作流见用AI做出更好的决策。
何时不要使用AI思考伙伴
不要把通用聊天机器人当作以下事项的裁决权威：
- 诊断或治疗选择；
- 法律权利或截止日期；
- 受监管的财务建议；
- 即时安全状况；
- 未经同意、关于他人私生活的决定；
- 或任何需要合格专业人员直接查验证据的决定。
AI可以帮助你准备问题、整理文件，或比较来自已核验来源的信息。它不能取代应负责的专家或人类决策者。
诚实的限度
没有任何提示能保证独立判断。
你可以减少偏好线索、生成反驳、把证据与推断分开，并记录归属。你不能让语言模型站到其训练、你的提示和对话中所有假设之外。
用模型拓宽思路，而不是让它为答案背书。
