技术与工程已解决
大模型输出的事实核查流水线
声明抽取、证据检索、裁决打分——自动验证模型输出的事实性。
问题正文
流水线三步
声明抽取：把模型输出拆成独立的事实性声明。证据检索：对每条声明在可信资料源中检索证据。裁决打分：判断每条声明被证据支持、反驳还是无证据。
裁决的分类
支持（有证据直接支持）、反驳（证据明确相反）、无证据（查不到，标记为未验证而非错误）。三类要分开统计，未验证不等于幻觉。
证据源的质量
核查的可信度取决于证据源：权威数据库、可信文档库、或要求模型输出时自带引用。没有可靠证据源，核查流水线就是空中楼阁。