向AI咨询法律相关问题，它能有条有理地引出一条听起来十分正规的法条，连条款编号、原文措辞都写得像模像样，可翻遍现行有效的法律文本，根本找不到这一条；请它帮忙整理书单、查找专业文献，它可以细致地讲清一本书的作者、出版时间、核心论点，连目录梗概都描述得清清楚楚，等你去图书馆、图书平台检索才发现，这本书从来没有出版过。

AI输出的内容看起来有理有据，细节饱满，语气还格外笃定，普通人短时间内很难分辨真伪，这就是大家常说的AI幻觉。很多人会下意识以为这是程序出了故障，其实并非如此。幻觉不是简单的代码bug，而是当前自回归架构下大模型与生俱来的特点。它擅长模仿通顺自然的表达，甚至会主动配上引用、论据来支撑说法，单看文字本身，迷惑性很强。

大语言模型生成内容的原理

很多人以为AI会像人一样读懂问题、思考之后再给出答案，事实并非如此。AI并不明白文字到底是什么意思，它做的事情，说白了就是顺着前面的话，猜下一个最常跟着出现的词，一个词一个词往下接，拼出一整段话。这种一次只看前文、逐个预测下一个词的生成方式，专业上叫做“自回归框架”。它不会提前规划完整答案，只能依托已经写出来的内容不断续写，看不到还没有生成的文字。

举个简单例子：它见过海量聊天记录，发现当别人打出“你好”，后面跟着“你好”的情况最多；看到“我困了，我要去……”，后面接“睡觉”的概率远远高于别的词。它不知道“困”是什么感受，也不懂睡觉是什么行为，只是记住了词语之间常常搭在一起的规律。

放到我们前面说的法条、书籍场景里也是同理。它看过大量法律文章、图书介绍，熟悉这类文字的句式，知道法条一般怎么写、一本书的介绍通常包含哪些要素。当你问它一个冷门法律或者小众书籍时，它就顺着这个文体的习惯，把词语按高概率拼接起来，至于这条法条是不是真的、这本书到底存不存在，它本身没有办法去核实。

人工智能幻觉是什么

简单来说，AI幻觉就是模型产出了看上去合理，却和客观事实不符，或是和你给出的信息相矛盾的内容。一类是直接捏造事实，比如虚构法条、书籍、文献和数据；另一类会更隐蔽，用到的基础信息本身没问题，但强行搭错因果、用错适用条件，最后得出错误结论。只要还是这种逐词生成的大语言模型，幻觉就很难被彻底根除，我们能做的，是读懂背后的逻辑，尽可能规避它带来的麻烦。

AI为什么容易“一本正经地胡说”

生成机制本身，只是幻觉产生的基础，对齐训练和训练数据的局限，进一步放大了编造的倾向。主流模型都会经过人类反馈强化学习，在人工标注环节，完整详实、语气肯定的回答更容易拿到高分，一句坦诚的“我不知道”反而常常被视作回答不合格。长期的奖惩引导，慢慢让模型形成了偏好：遇到自己知识覆盖不到的盲区时，它更愿意拼凑一套看起来合理完整的内容交出来，而不是直白承认自己不懂。冷门法律问题、小众外文著作检索这类场景，就特别容易出现这种情况。

与此同时，它所有的知识都来自海量训练语料，而这些原始数据本身就自带局限。网络里混杂着过时的法条解读、流传已久的错误观点，模型没有自主辨伪能力，会一并学进去；每一个大模型都有固定的知识截止时间，之后新修订、废止的法规，新面世的著作，它都无从知晓；那些受众很小、样本稀少的冷门内容，可供学习的材料残缺不全，模型只能依靠相近的语义信息自行拼接，出错概率会明显升高。

如何识别幻觉，降低被误导的风险

日常使用的时候，我们可以多留一份心眼，从一些信号里察觉到潜在的幻觉。如果一段回答从头到尾十分绝对，几乎没有“可能”“有待核实”这类留有余地的表述，聊小众话题时细节铺得很丰富，却给不出可以溯源的权威来源，尤其涉及法条编号、ISBN、出版社、文献出处这类信息，追问来源时含糊其辞，甚至编造不存在的渠道，就要高度警惕。最简单的验证方式，就是直接追问信息的检索渠道，没法给到可核验的权威入口，多半就是幻觉。

提问的时候稍加约束，也能减少它自行脑补的空间。可以在问题末尾提前说明，拿不准的内容标注待核实，不允许编造法条、虚构书籍文献；如果有指定参考材料，明确要求它只依托给到的内容作答，不要额外补充外部信息；复杂的需求尽量拆开来分步询问，一次性抛出跨度很大的任务，更容易催生编造内容。

但凡涉及法律条文、学术参考文献这类高价值、高风险的内容，千万不能只依靠AI的输出作为定论。法条要以国家法律法规数据库、官方平台为准，书籍文献要去国家图书馆馆藏系统、知网、出版社官网等渠道核对，也可以换不同模型交叉对照，互相印证。工信部等八部门早已关注到这类风险，出台相关文件，通过优化知识库、修正训练语料、标识生成内容等方式提升AI的透明度，同时推进安全评测相关标准建设，用技术和制度一起，推动人工智能朝着可信可控的方向发展。

理性看待AI：它是工具，不是标准答案

说到底，AI是很高效的辅助工具，但它不是可以无条件采信的权威资料库，更替代不了法规库、馆藏检索系统。它适合帮我们梳理思路、搭建框架、润色文字、打开创作思路，却没办法天然保证事实准确。

用好AI的核心，就是分清边界：AI产出的文字只是一份参考，不等于真实法条、真实文献和客观事实。不盲目全盘照搬，重要信息坚持溯源核验，学会人机互补，才是我们面对智能工具更稳妥的选择。