大模型最让人头疼的问题就是幻觉：它会非常自信地说出完全错误的信息。为什么会这样？怎么应对？

一、幻觉的根源

大模型本质上是在预测下一个词最可能是什么。它不是在检索事实，而是在生成看起来合理的文本。当它不知道答案时，它不会说不知道——它会根据上下文生成一个最可能的答案，哪怕这个答案是错的。

这是架构性问题。通过RAG（检索增强生成）可以缓解——让模型先查资料再回答——但不能完全消除。因为即使有参考资料，模型也可能错误理解或过度推理。

二、怎么减少幻觉

实用方法：在Prompt中要求模型不确定时说不知道、用RAG提供事实依据、对关键输出做事实核查、在高风险场景（医疗法律金融）必须人工审核。

三、对AI应用的影响

在高风险场景，不能完全信任AI输出。系统设计时要假设AI会出错，要有验证机制和人工兜底。把AI当作聪明但可能犯错的助手，而不是全知的专家。