技术与工程已解决
什么是大模型幻觉?怎么减少?
模型为什么会一本正经地编造事实,工程上有哪些被验证有效的缓解手段。
问题正文
幻觉从哪来
模型的本质是预测接下来最可能的文字,而不是查询事实库。当它缺乏相关知识时,它会生成统计上看起来对的内容——这就是幻觉。
工程上的缓解手段
接入检索(RAG),让模型基于给定资料回答;在系统提示词里明确不知道就说不知道;要求模型给出引用来源;对事实性输出做二次校验;降低温度参数减少发挥。
不能根除,只能管理
幻觉无法被完全消除,只能通过架构设计把概率压到可接受范围。高风险场景(医疗、法律、金融)必须有人工复核环节。
