技术与工程已解决
自洽性(Self-Consistency)解码
同一问题生成多次、投票取多数——用成本换准确率的经典技巧。
问题正文
原理
对同一问题用较高温度采样多次(5 到 10 次),对可枚举的答案做多数投票。不同推理路径殊途同归的答案更可信,偶然错误的路径会被多数淹没。
适用条件
答案可枚举或可归一化(选择题、数值、短答案)才能投票;开放性生成任务无法直接投票,但可用一致性作为置信信号。
成本账
成本直接乘以采样次数。只在高价值、低频次的复杂推理任务上使用,日常调用用不起。
同一问题生成多次、投票取多数——用成本换准确率的经典技巧。
问题正文
对同一问题用较高温度采样多次(5 到 10 次),对可枚举的答案做多数投票。不同推理路径殊途同归的答案更可信,偶然错误的路径会被多数淹没。
答案可枚举或可归一化(选择题、数值、短答案)才能投票;开放性生成任务无法直接投票,但可用一致性作为置信信号。
成本直接乘以采样次数。只在高价值、低频次的复杂推理任务上使用,日常调用用不起。
ANSWERS
回答内容
并发发起 N 次调用(温度 0.7 到 1.0),提取答案后归一化投票。注意总 Token 成本与供应商并发限额。
在数学推理基准上,自洽性能带来 5 到 15 个百分点的提升,是免费的模型升级——前提是你付得起 N 倍成本。
推理模型内置了更长更深的思考,效果上常常优于普通模型的自洽性采样,成本也可能更低。先测推理模型,不够再上自洽性。