大模型在大多数选择题上跑得很好;但只要把题目从”判断正误”换成”给出一个合法的因果解释”,最常见的多数票方法就可能失败。2026 年 8 月 4 日上线 arXiv 的一篇论文把这件怪事讲清楚了:在因果推理的”找出一个合法答案”题型里,多数票、奖励模型、大模型评判、模型自置信这四种常用打分方式都卡在 30% 上下,而一种叫 CALVER 的符号验证器,在相同候选池上把命中率推到了 42.1%。
差距看起来不大,但背后是一类被忽视的”集体错误”——同一道题,模型会重复犯同一个混因错误,把所有选票投到错误答案上;与此同时,几个真正合法的答案分散在不同的推理路径里,谁也拿不到多数票。结果是:错的答案赢得投票,对的答案被埋没。
一、”投票”为什么在因果题上会输
多数票的隐含假设是”对的答案会重复出现”。在事实型问答里,这个假设基本成立:同一条事实,无论是哪条推理路径得到的,最终都会收束到同一个字符串上。投票相当于是把多条带噪声的路径取共识。
在因果题里,假设被打破。一道”找出所有满足后门准则的调整集”的题目,可能同时有 3 个、5 个、甚至 11 个图结构上都合法的答案。多数票看到的不是一个收敛点,而是一片分散的云。同时,模型容易”犯同一种错”——只要一个常见的混因变量没被识别,模型就会反复在不同的采样里把它错认成条件变量。最终那一片分散的合法云,输给了那张”被重复投的错票”。
二、CALVER 的核心思路:用因果公理打”裁判分”
CALVER 的英文全称是 Causal Axiom-Level Verification,直译就是”按因果公理逐条打分的验证器”。它不再问”哪条答案出现得最多”,而是给每一条候选答案按”是否符合因果公理”打一个 0/1 评分。
具体打分时,CALVER 会把候选推理链中的关键节点映射到一张已知的因果图上,然后依次检查三件事:
第一,d-分离。给定的条件集合是不是真的能”切断”处理变量到结果变量之间的所有非因果路径?第二,后门调整。处理变量与结果之间是否还残留着被遗漏的混因路径?第三,干预的一致性。当候选链提到”对某个变量做 do-操作”时,do-运算后的图结构是否被正确改写?
只要一条候选在这三件事上同时过关,它就被记为一分;分数最高的候选被选出来。整个过程不依赖参考答案,也不依赖任何经过人类偏好对齐的奖励模型——它只靠因果公理本身。
三、为什么 42.1% 是关键的数字
论文在 CLEAR 基准的”找出一个合法答案”题型上做了对照实验。同一个候选池、同一批模型采样,分别交给四种常用方法和 CALVER 去挑选。结果是:多数票、奖励模型、大模型评判、模型自置信这四种基线方法都停留在 30% 左右,而 CALVER 达到 42.1%。
值得注意的几个细节是:
把评判模型扩到 72B 并不能缩小差距。说明这件事不是”模型不够大”,而是”评判方式不对”——多数票与置信度在结构层面就抓不到”合法答案分散”这件事。
在作者手工审计过的”干净核心”子集里,CALVER 选出的 21 个合法答案里有 11 个和数据集标注的标准答案不同,但同样满足题意。换句话说,CALVER 答对的部分里,有相当一部分是”与标答不同但同样合法“的——这恰恰是多数票方法永远抓不到的一类正确。
CALVER 给每条候选打分只需要毫秒级 CPU 时间。它不是一个”重训一个评判模型”的方法,而是一个”按公理逐条核对”的方法,因此可以在线、低成本地服务任意一次推理。
四、什么场景能用,什么场景不能
CALVER 的强项是:候选推理链可以被结构化拆解、并且存在一张能描述变量间因果关系的图。论文在 10 个公开贝叶斯网络、第二个模型家族、以及”从文本里现造图”这三种设置下都复现了优势。结论是:只要”因果结构”这件事能拿到,CALVER 就能用。
反过来,它的局限也写得明明白白:
第一,没有图就打不了分。如果一个领域连”变量之间大致怎么影响”都不清楚,CALVER 也无从下手。这件事把它和一般的”无监督推理评估”区分开来。
第二,主要针对因果推理任务。开放域问答、数学证明、代码生成这些题型,需要另设计公理化的检查器;CALVER 的三件套(d-分离、后门调整、do-运算)是为因果题量身裁剪的。
第三,它是一个training-free 的符号验证器,对图结构本身的噪声敏感。如果给出的图本身就包含错误的边或漏掉的变量,CALVER 仍会按这张图打分——”裁判按错尺子量”这件事它不会自动修正。
五、这件事为什么值得工程团队关注
对做大模型应用的人来说,这篇论文传递的信号很清楚:当候选答案天然存在”多个合法选项”时,单靠”投出最多票”或”取最大置信度”是不够的。结构化的、外部的、领域知识驱动的检查器,是把多数票的统计噪声压下来的有效方式。
更直白地说,CALVER 提供了一种”轻量、CPU 友好、不需要再训一个评判模型”的兜底方案。对那些关心回答可信度多过”显得更自信”的系统——例如医疗、教育、工业决策辅助——这种按公理打分的检查器可以成为一个稳定的事后过滤层。
对做因果推理研究的人来说,论文留出的下一步是清楚的:把”找出一个合法答案”扩展到”找出所有合法答案”,把单题的公理核对扩展到多步推理链的递归核对,把”已知的图”扩展到”自动从文本里归纳的图”。这三件事任意一件做实,都会让 CALVER 这类方法从”评分”走向”推理”。
多数票失败的地方,恰好是结构化检查器可以补位的地方。这件事并不是大模型不够大,而是”投票”和”按公理核对”是两种完全不同的信号源。当一个任务天然存在多个合法答案时,后者更值得信任。
它意味着什么
当大模型的”答案”开始走进真实决策时,正确的标准不再是”听起来像那么回事”,而是”是否满足领域公理”。多数票、置信度、奖励模型都是好用的统计量,但它们都不知道因果图长什么样。CALVER 提醒我们:把”对的尺子”和”对的答案”分开,是可信推理系统的关键工程问题。