写这一篇的缘由一是因为我也在摸索如何降低 AI 幻觉提升 AI 工具使用效率，二是因为前两周在MIT学习时老师讲的一节课，刚好也解释了这个问题，所以一并做个总结，分享给大家。

近几年，大型语言模型（LLM）如 ChatGPT、Claude、Gemini 等快速走进公众视野。它们能生成结构完整、逻辑清晰的长文本，甚至可以进行代码编写、法律文书撰写、医学咨询等高难度任务。然而，我们也越来越频繁地听到一个术语：AI幻觉。简单说，它指的是模型“说得像真的，但其实是错的”。

本文将尝试解释三个问题：

什么是 AI 幻觉？为什么语言模型会产生幻觉？
GPT-4 等新一代模型是否真的减少了幻觉？
如何尽可能减少幻觉带来的误导？

一、语言模型不是在“理解”，而是在“预测”

GPT 的全称是 Generative Pre-trained Transformer，其核心任务是：给定一段输入，预测下一个最可能出现的词（token）。这种机制的本质是统计语言模式，而不是基于事实的知识回忆或理解。

举个例子，输入“乔布斯和马斯克在球场上”，模型会续写出“展开了一场激烈的篮球比赛”，尽管这从未真实发生。这不是模型有意捏造，而是它识别出“人名 + 球场”常出现在比赛语境中，于是生成符合语言习惯的句子。

这类“幻觉”即来自其构建方式：模型的目标不是还原事实，而是生成“在训练语料中最常见或最自然”的文本。也就是说，它输出的是“语言上的合理”，而非“世界中的真实”。

这也是幻觉的来源：在不知道答案时，模型仍然会“给出一个听起来合理的回答”。

二、幻觉的技术根源：训练机制、知识覆盖与任务设定

训练机制决定幻觉倾向：GPT 采用的是无监督学习方法，即在大规模互联网文本上训练模型，其唯一目标是最大化下一个词出现的概率，而不是核查事实。这种机制天然就倾向于生成“似是而非”的内容。
语料中的事实不等于知识库：模型并不保存某种结构化知识图谱或数据库，它记住的是“什么词经常和什么词一起出现”，而不是“谁获得了 2022 年冬奥会金牌”这种事实信息。

在 MIT 的课上，教授举了一个例子：

“问 GPT 3.5：‘谁赢得了 2022 年冬奥会冰壶金牌？’——模型回答错误，称韩国女队获胜，而实际上是英国队。”

原因在于：GPT 3.5 的训练数据截止于 2021 年，不包含 2022 年的事实。因此只能“模仿出一个合理答案”，而不是“查找真实答案”。
Prompt 的诱导效应：用户的提问方式对模型结果有很强导向性。例如：“请写一篇关于爱因斯坦和马斯克辩论环保问题的稿件”，这个语句默认了事件的真实性，模型不会去验证事实，只会按“剧本”生成。
缺乏世界建模能力：GPT 不理解时间、空间或因果关系。即便在逻辑上存在冲突，模型也不会主动识别，而是依赖文本连贯性生成语言。