跳到主内容
智客 ZICQ

智客百科 技术术语

幻觉 (Hallucination)

技术术语
别名: 幻觉 Hallucination 事实性幻觉 忠实度幻觉 ·2026-10-10

幻觉 (Hallucination)

幻觉(Hallucination)是指大语言模型(LLM)在生成文本时,输出看似语法规范、用词流畅、逻辑自洽,但实际上与客观世界已知事实相悖(事实性幻觉),或**与用户提供的参考上下文相矛盾、缺乏事实依据(忠实度幻觉)**的不可信生成行为。

幻觉是大模型从统计概率机器迈向高可靠生产级应用(如医疗诊断、金融合规、司法审查、高精度代码重构)的核心制约瓶颈。


幻觉的类型学分类 (Taxonomy)

在学术界与工业界评估体系中,大模型幻觉被严格解构为两大维度:

                              大语言模型幻觉分类体系
                                        │
           ┌────────────────────────────┴────────────────────────────┐
           ▼                                                         ▼
[事实性幻觉 Factuality Hallucination]                      [忠实度幻觉 Faithfulness Hallucination]
冲突对象: 客观物理世界真实事实与科学常识                  冲突对象: 用户提示词中明确提供的参考文档上下文
           │                                                         │
 • 实体虚构 (编造不存在的药名、作者、API)                   • 无依据推断 (生成超出 Context 支持的衍生断言)
 • 属性混淆 (错配历史事件年份、公司创始人)                  • 事实篡改 (将原文的"禁止退款"总结为"支持退费")
 • 逻辑倒置 (原因与结果前后颠倒)                            • 假引用 (给出真实存在的 URL 但文章根本没写该观点)
  1. 事实性幻觉 (Factuality Hallucination):主要发生在开放域问答与自由文本创作中。模型在依赖内部参数化记忆输出时,编造不存在的法律判例、虚构论文 DOI 链接或给出错误的数值常量。
  2. 忠实度幻觉 (Faithfulness Hallucination):主要发生在检索增强生成 (RAG)、长文档摘要和结构化数据提取中。模型虽然接收到了准确的外部证据,却未能忠实遵从,擅自引入参数中的先验偏置篡改证据结论。

理论根因:为什么大模型必然产生幻觉?

从统计学习与神经网络架构的底层物理机制来看,幻觉是大模型当前自回归范式的必然副产物:

1. 预训练目标函数的根本缺陷

自回归语言模型的预训练目标函数是因果交叉熵损失(Next-Token Cross-Entropy):

$$\mathcal{L}{\text{pretrain}}(\theta) = -\sum{t=1}^{T} \log P_\theta(x_t \mid x_{<t})$$

该目标函数仅衡量模型生成的条件概率分布与训练语料统计分布之间的拟合距离(KL 散度),在数学上完全缺乏对命题真伪性(Truth vs. Falsehood)的度量机制。模型学会的是“哪些词元组合在人类语言中最常见、最连贯”,而非“哪些陈述客观真实”。

2. 参数压缩与长尾知识退化

基础模型以有限的数百亿或数千亿参数,压缩消化十万亿级词元的海量语料。对于高频常识(如“巴黎是法国的首都”),模型在海量权重梯度中反复强化收敛;但对于长尾低频实体(如某特定系统配置项、冷门学者生卒年),其表征在深层非线性投影中遭遇严重的有损压缩,采样时极易发生概率弥散与错误关联。

3. RLHF 偏好失准与过度自信 (Miscalibration)

在人类反馈强化学习(RLHF)对齐过程中,人类标注员天然倾向于给“排版整齐、结构专业、语气斩钉截铁”的回答赋予高分,而惩罚“犹豫不决、频繁承认不知道”的回答。这促使模型演化出迎合性过度自信(Sycophancy & Overconfidence):哪怕模型内部隐状态的预测熵极高、对答案毫无把握,其输出层依然会以毫无破绽的坚定语气编造虚假事实。

4. 误差自回归级联放大 (Autoregressive Error Compounding)

自回归解码机制将每个新生成的词元 $x_t$ 作为后续所有词元的输入条件。一旦模型在前文中偶然采样出一个错误的实体 Token,该错误立即变为合法的局部上下文先验,迫使后续注意力层继续围绕该错误“圆谎”,导致逻辑错乱雪崩式扩散。


现代系统级防御与缓解工程体系

针对不同层级的幻觉产生机制,业界构建了多维度的工程防御屏障:

                       大模型幻觉系统级防御矩阵
                                  │
      ┌───────────────────────────┼───────────────────────────┐
      ▼                           ▼                           ▼
[解码层干预 (DoLA)]         [知识层外锚 (RAG)]         [对齐与自省层 (RLVR / PRM)]
对比不同隐层 Logits 差值     强制输入事实证据           训练校准拒绝策略
放大高层事实,抑制浅层语法   施加确定性拒答门禁         通过推理模型自省检验

1. 解码期内部表征对比:DoLA (Decoding by Contrasting Layers)

研究表明,语言模型在较早的网络层(低层)已能建立完善的语法与流利度表征,而高阶事实知识(Factual Knowledge)主要汇聚在接近输出端的网络顶层。

DoLA 算法通过对比顶层与成熟低层的预测 Logits 分布差值进行动态对比采样:

$$\text{Logits}{\text{DoLA}} = \text{Logits}{\text{higher_layers}} - \text{Logits}_{\text{premature_layers}}$$

通过在解码时直接减去浅层的先验语言偏置,放大了顶层的事实知识激活,在完全不需要外部检索或重新微调的前提下,将医学与常识基准测试的事实幻觉率降低了 $30% \sim 50%$。

2. 外部知识锚定与负向边界约束 (Grounding via RAG)

消除忠实度幻觉的最成熟工程实践是模块化 RAG:

  • 负向拒答约束(Calibrated Refusal):在系统提示中注入强约束(“当且仅当上下文存在充分依据时回答;缺乏依据时必须回复‘当前资料无法确认’,严禁推测”);
  • 结构化引用回标:强制模型为输出的每个断言打上精准的上下文片段锚点标签(如 [Doc-1: Section 2.3]),便于后置规则引擎做事实一致性校验。

3. 推理模型的慢思考自纠错 (Reasoning Models)

现代推理模型(如 DeepSeek-R1、OpenAI o1)通过在内部展开数千个思考词元(Chain-of-Thought),结合基于规则的可验证奖励(RLVR),学会了在提交答案前将极端测试用例代入推导过程进行自省验算,大幅降低了复杂逻辑计算与代码执行中的逻辑幻觉。


权威量化评估体系 (Benchmarks & Metrics)

  1. FActScore (Fine-grained Atomic Fact Verification): 将大模型生成的自由文本分解为不可再分的原子事实三元组(Atomic Facts,如“爱因斯坦是物理学家”、“他于1921年获得诺贝尔奖”),逐一与权威维基百科知识库进行交叉比对,计算模型生成内容的事实精度百分比: $$\text{FActScore} = \frac{|\text{由权威知识库证实的原子事实数}|}{|\text{模型生成的全部原子事实总数}|}$$
  2. TruthfulQA:包含数百个极易引发人类迷信、认知偏见与直觉误导的挑衅性问题,测试模型是否会跟随人类偏见犯错;
  3. HaluEval:包含数万个针对问答、文本摘要与对话系统的事实对抗评估基准。

参考资料与权威文献