第一次有人因为AI自信满满的错误而栽跟头——虚假的法律引文、捏造的引语、杜撰的作者、略有偏差的税务规则——就会学到重要的一课。模型并不是糊涂了，也不是当天状态不好。它完全按照设计方式运行，只不过用户提出的问题恰好导致它生成了错误答案。
这绝非假设。最著名的早期案例是2023年的Mata诉Avianca案：两名纽约律师提交了一份法庭文书，其中引用了六个根本不存在的判例——ChatGPT虚构了这些判例，还附上了令人信服的引语和引文——结果受到联邦法官的制裁。他们向一台生成合理内容的机器索要判例，得到的恰恰是它生来擅长生成的东西：看似合理的文本。
这是AI领域为数不多的、理解机制非常重要的主题之一。一旦明白幻觉如何产生，你就不会再对此感到意外，也不会再因此付出代价。
正式术语
“AI自信地给出错误答案”通常称为幻觉。这个术语并不完美，因为模型实际上什么也没有看见。真正发生的是，模型生成了流畅、看似合理，却并不正确的文本。
其中的实用要点值得牢记：幻觉不只是暂时的产品缺陷。它源自生成看似合理的语言与验证事实之间的差距。你应该预料它会发生，为它做好准备，而不能假设下一个模型版本就会让验证变得多余。
为什么会发生
要准确预测下一个词，语言模型必须吸收海量的语言结构——语法、事实、对话模式，以及医生诊疗记录与一条推文之间的区别。你向它提问时，它会生成在统计上符合所学模式的后续内容。
问题在于：它内部没有“我不知道”的警报。模型经过训练，会生成看似合理的后续内容，而不是经过核实的内容。大多数时候，合理与正确相互重合，因为训练数据包含了常见主题的正确信息。但当模型没有见过关于某个具体问题的可靠信息时——小众法律案件、近期事件、鲜为人知的人物、精确数字——它仍会生成一个听起来合理的答案，只是这个答案碰巧是编造的。
从实用角度看：模型拥有一套强大的机制来生成很可能成立的后续内容，却只有相对较弱的机制来证明这些内容真实无误。面对常见材料时，两者往往一致；面对小众、近期、专有或要求精确的材料时，两者就会分离。
不要把自信、精美排版或篇幅当作证据。错误的AI答案可能比正确的来源文档排版得更好。
幻觉最常出现在哪里
所有当前AI助手都呈现出一致的规律。在收到以下请求时，它们最容易产生幻觉：
- 具体的姓名、日期、数字或引语。“谁说过X？”“Y是哪一年发表的？”“请引用三项关于Z的研究。”统计模式非常擅长生成引文的形式，却无法可靠地给出实际内容。
- **小众或鲜为人知的主题。**任何训练数据稀少的内容——小公司、罕见病、地区性法规、不知名的个人。数据越少，“看似合理”与“真实”之间的差距就越大。
- **近期事件。**模型的训练数据存在截止时间。如果你询问截止时间之后发生的事情，而模型又没有主动搜索网页，它要么回答“我不确定”（这是好的结果），要么猜测。
- **与你所在公司有关的专有信息。**它没有你的客户名单、代码库、合同或内部数据。如果你询问这些内容，它会生成此类信息可能呈现的样子。
- **数学和精确推理。**多步算术、单位换算、财务计算，以及任何细小失误会层层放大的任务。模型的表现比过去更好，尤其是在可以使用计算器工具时，但在要求高度精确且风险重大的场景中仍不可靠。
请注意其中的规律：当你要求模型提供具体信息，却没有给它可靠来源时，它就会以可预测的方式失败。
幻觉几乎不会造成影响的场景
反过来说，在大多数用户真正花费时间的广阔领域中，模型都很可靠：
- 起草和组织文字。 不需要“事实”。
- 改写和编辑你自己的文本。 你提供的内容就是真实依据。
- 总结你提供的文档。 模型可以引用和压缩已经摆在面前的内容。
- 头脑风暴和创意构思。 不存在可以产生幻觉的“正确”答案。
- 解释众所周知的概念。 凡是在训练数据中得到充分体现的内容——基础科学、主流历史、常见编程模式——通常都有坚实基础。
只要停留在这些领域，幻觉就很少会伤到你。一旦进入“有关小众事物的具体事实”领域，就要预期幻觉可能出现。
保护你的三个习惯
避开这个陷阱不需要机器学习博士学位，只需要三个习惯。
1. 把任何具体说法当作起点，而不是最终结论
如果模型提供了姓名、日期、数字、引文、法规或引语，而且答案确实重要，就要核实。快速搜索、对照来源文档，或继续追问“你在哪里找到这项信息？请引用原文”，都能发现大多数问题。答案越短、越具体，核查就越重要。
一个特别实用的追问是：“应该用什么来源验证这些内容？我需要核查哪些具体说法？”这并不能证明答案正确，但可以把宽泛的回复变成一份验证清单。
2. 答案需要最新信息或可验证时，使用搜索
目前所有主流AI助手都提供网页搜索模式。ChatGPT有搜索按钮；Claude在许多任务中内置了搜索；Gemini则原生支持。凡是询问具有时效性或事实性的内容，都要开启搜索。 模型可以引用真实来源，可靠性会大幅提升，你也会获得可供核查的链接。
一个常见错误是用基础模型提出研究问题，然后直接相信答案。正确模式是“打开新对话，开启搜索，再提问”。只需多点击一次。
3. 直接提供来源，而不是要求模型凭记忆回答
如果手头有文档，就粘贴进去；如果有数据，就附上电子表格；如果有原始邮件，就一并提供。让模型总结或分析你提供的内容，远比要求它根据训练数据回忆可靠。
较差：“爱沙尼亚劳动法对试用期有什么规定？”
更好：“这是《爱沙尼亚雇佣合同法》中关于试用期的条款[粘贴]。请解释它对一份六个月的合同意味着什么。”
第一个提示词很容易诱发幻觉。第二个提示词以真实文本为依据，模型可以保持准确。
来源核查工作流程
如果答案很重要，请在使用前完成以下步骤：
- 标出具体说法。 姓名、日期、价格、引语、引文、法律主张、医疗主张和精确数字。
- 要求列出验证目标。“你回答中的哪些说法需要我核实？每项说法应该用什么来源验证？”
- 核查第一手来源。 优先选择官方文档、原始法规、产品页面、申报文件、合同或源文档，而不是摘要。
- 替换缺乏支持的说法。 如果无法迅速核实某项说法，就将其删除、标为不确定，或改写成问题。
- 保存来源链接。 未来的你应该知道答案来自哪里。
本文链接的配套清单把这套流程变成了一次快速的继续/停止判断。
一个实用例外：幻觉并无不妥的场景
有时你就是希望模型虚构内容——这正是任务的全部目的。小说、头脑风暴、假设情境、测试的边缘情况、围绕主题的创意变体、“这个论点最糟糕的版本会是什么样”之类的提示词。在创意工作中，幻觉不是缺陷，而是功能。只需分清“给我五个听起来可信的公司名称”（很好的用法）与“给我五家从事X业务的真实公司”（一个陷阱）之间的区别。
模型升级会解决问题吗？
平均而言，新模型比旧模型更少产生幻觉，尤其是在常见主题上。但在小众领域——罕见案例、近期事件、专有细节——即使是2026年最出色的模型，仍会自信地编造内容。不要以为下一个版本就能解决这个问题。幻觉存在的结构性原因没有改变。
一份简短的安全清单
依赖AI答案前，请先问自己：
- 这个答案是否包含姓名、日期、数字、引语、引文、法律、价格、医疗建议或财务主张？
- 主题是否涉及近期、小众、本地、专有或高风险内容？
- 模型是否使用了搜索、你提供的来源、数据库或计算器？
- 我能否指出支持该说法的来源原句、表格或记录？
如果第1或第2题的答案为“是”，而第3或第4题的答案为“否”，就存在幻觉风险。采取行动前务必核实。
结论
幻觉是可预测的，而不是随机的。它们集中出现在具体姓名、日期、数字、冷门主题、近期事件、你的私有数据和精确数学计算中。在起草、改写、总结、头脑风暴和解释常见概念时，幻觉则不会出现或无关紧要。
养成发现幻觉的习惯：核实具体信息，查询事实时开启搜索，直接粘贴来源，而不是依赖模型的记忆。做到这三点，AI在实际使用中就会可靠得多——因为你为它补上了其自身无法稳定提供的验证层。
