大模型幻觉——一本正经地胡说——是最影响用户信任的问题。

一、为什么会有幻觉

大模型本质是在预测下一个最可能的词。它不是在检索事实，而是在生成看起来合理的文本。当它不知道答案时，它不会说不知道，而是根据上下文生成一个最可能的答案——哪怕是错的。这是架构性问题。

二、怎么缓解

技术层面：用RAG提供事实依据、在Prompt中要求不确定时说不知道。流程层面：高风险场景必须人工审核。

三、正确的心态

不要追求零幻觉。假设AI会出错，在系统设计上做好验证和兜底。把AI当作聪明但可能犯错的助手。