AI 幻觉：它一本正经胡说时，你怎么识破
📍 从这里开始
那位被法庭处罚的律师
Section titled “那位被法庭处罚的律师”先讲一个真实的、上过全球新闻的案子。
2023 年，美国一位执业三十年的律师用 ChatGPT 帮忙准备诉讼材料。AI 给他找了六个“过往判例”，有案件名、有编号、有法官引语，格式专业得无可挑剔。
他直接写进了递交法庭的文件。
然后法官发现：这六个判例，一个都不存在。全是 AI 现场编的。律师被罚款，职业声誉扫地——他后来说，自己“没想到 AI 会编造内容”。
这就是 幻觉（hallucination）：AI 一本正经地生成看起来可信、实际是编造的内容。
它不是偶尔冒出来的小故障，而是大模型的工作方式带来的老毛病。 这一篇教你跟它安全共处。
幻觉从哪来：回忆一下“接龙”原理
Section titled “幻觉从哪来：回忆一下“接龙”原理”大模型怎么工作的那一篇讲过：模型不是在“查资料库”，而是在一个词一个词地做概率接龙——根据前文，猜下一个最可能的词。
这个原理决定了：
模型最擅长的是“把话接得通顺”，而不是“确认自己说的是真话”。
当你问它一个答不上来的问题，它常常不会主动说“查不到”，而是顺着编下去，而且编得非常通顺。判例的格式它见过千百次，所以编出来的假判例格式完美；论文引用的样子它烂熟于心，所以假论文连页码都有。
通顺 ≠ 真实。幻觉恰恰最擅长“通顺”。
五类最容易中招的问题
Section titled “五类最容易中招的问题”幻觉不是均匀分布的。这五类问题风险最高，遇到请自动提高警惕：
| 高危类型 | 例子 | 为什么危险 |
|---|---|---|
| 精确数字 | “XX 公司去年营收多少？” | 数字编起来毫无难度，你又难验证 |
| 引用出处 | “这个观点有什么论文支持？” | 假书名假论文重灾区，律师案就栽在这 |
| 链接网址 | “给我这个资料的链接” | AI 会拼出“看起来对”的网址，点开是 404（页面不存在） |
| 具体的人和事 | “XX 教授有什么著作？” | 张冠李戴高发：真人 + 假事迹缝合 |
| 最新消息 | “上个月发布的 XX 怎么样？” | 超过知识截止日期，它要么说不知道，要么容易给出旧信息甚至编造 |
另外两档风险低一些，但都不是零：
- 中间档：翻译、总结你给的材料，讲解常见概念。 翻译和总结有原文可依，出错比凭记忆答数字、出处、链接少得多，但它照样会添进原文没有的内容、漏掉“可能”“仅限”这类限定条件，甚至把否定说反。有个公开排行榜专门测这件事：即使提示词写明“只用原文信息、不要推断”，每 100 份摘要里，表现最好的模型约有 2 份加进了原文没有的内容，不少常用模型有 6 到 14 份（Vectara 幻觉排行榜，2026-09-22 版，测的是英文文章）。讲解常见概念时，大方向通常没错，细节却可能讲偏，讲得顺不等于讲得对。合同、政策、体检报告、和钱有关的内容，要对照原文核对数字、日期、条件和否定词。
- 低风险：头脑风暴、想点子、改写你自己写的文字。 错了你一眼就能看出来，也不会造成大损失。改写时留意它有没有替你加事实，比如把“正在做”写成“已完成”。
用 AI 的功力，一半在于分清手头的问题在哪一档。
识破幻觉的五招
Section titled “识破幻觉的五招”第 1 招：要出处，然后自己去核对
Section titled “第 1 招：要出处，然后自己去核对”“你说的这个数据，来源是什么？”
追问出处的用处，是拿到一条能核对的线索：一个网址、一份文件的名字、一篇文章的标题。拿到之后自己打开看，原文里真有这句话、这个数，才算数。它给的来源很模糊（“据相关研究”），或者你根本找不到，就当这条没有依据。
别拿它的反应判断真假。多项研究发现，被追问或质疑时，模型常常把原本正确的答案改错，也会为自己先前的错误说法辩护（例如美国 AI 公司 Anthropic 2023 年的论文，英文，面向研究者）。所以它道歉改口也好、坚持不改也好，都说明不了真假，只能回到原始出处核对。
第 2 招：新开对话，换个方式再问一遍
Section titled “第 2 招：新开对话，换个方式再问一遍”同一个事实，新开一个对话、换个问法再问一次。几次回答对不上，是编造的强信号：编的内容每次都是现场重新编的，很难编得一模一样。
反过来却不成立：几次答案一致，也可能一起错。常见的误解会被稳定地重复，所以一致只能说明“它一直这么说”，不能代替第 3 招。
第 3 招：关键事实，回到原始出处核实
Section titled “第 3 招：关键事实，回到原始出处核实”要写进合同、报告、作业里的事实（数字、人名、日期、引用），一律回到原始出处核一遍：官网、原文件、权威数据库、正式公告。可以用搜索引擎去找原始出处，但别只看搜索页顶部的 AI 摘要或转述文章，它们可能同样出错。规则很简单：
AI 负责起草，原始出处负责核实，你负责拍板。
第 4 招：开联网搜索
Section titled “第 4 招：开联网搜索”问时效性问题时，打开 AI 的联网搜索（豆包、DeepSeek、ChatGPT 等都能联网，开关常叫「联网搜索」或「智能搜索」，有的会自己判断要不要搜），让它先查再答，并列出参考的网页。注意：联网能减少过时信息和凭空编造，但它的摘要仍可能说歪原文，引用的网页本身也可能不可靠，重要的事点进原文看。
第 5 招：让它标出哪些地方没把握
Section titled “第 5 招：让它标出哪些地方没把握”“以上内容里，哪些你比较确定，哪些不太确定？不确定的请标出来。”
模型对自己的把握程度有一定感知，但普遍高估自己。所以它标出的“不太确定”，可以帮你决定先查哪几处，却不能代替核实：标成“确定”的地方，照样要按第 3 招去核。
也别用“你确定吗？”去逼它表态，这句追问本身就容易让它把对的改成错的（见第 1 招）。一个只会说“全部确定”的回答，更要多查几处。
两个降低幻觉的提问习惯
Section titled “两个降低幻觉的提问习惯”除了事后识破，提问时就能预防：
习惯 1：把资料喂给它，别让它凭记忆。
❌ “帮我总结 XX 政策的要点”（它可能编） ✅ 把政策原文粘贴进去：“根据我贴的这份原文总结要点，每条标出对应的原句”（它主要基于你给的，仍要对照原文）
习惯 2：明确允许它说“不知道”。
在问题末尾加一句：“如果你不确定，直接说不知道，不要猜。”
给了台阶，它硬编的情况会少很多，但仍可能出错。这一招对“精确事实类”问题尤其有用。
这一篇的核心信息
Section titled “这一篇的核心信息”幻觉不是偶尔出现的故障，而是大模型的老毛病。你没法根除它，但可以把它带来的风险降下来。
记住三层防线：分清问题类型（高危区自动警惕）→ 养成提问习惯（喂资料、给台阶）→ 关键事实回到原始出处核实（AI 起草，原始出处核实，你拍板）。
做到这三层，AI 依然是很好用的助手，只是你不会成为那位把假判例交上法庭的律师。
回想一下：过去一个月，你有没有把 AI 说的哪个“事实”直接转述给了别人？现在，去找它的原始出处核一下。
- 准备把自己的资料发给 AI 之前：什么能发给 AI，什么不能
- 想练“让 AI 摘出原句、自己回原文核对”：把文件、图片、语音交给聊天 AI
- 想一开始就拿到更好的回答：怎么问 AI，回答才有用