大语言模型验证动态研究：ICLR 2026 揭示验证能力的三大关键发现

本文整理ICLR 2026收录论文《Variation in Verification》的核心内容。该研究首次从问题难度、生成器能力、验证器生成能力三个维度，系统分析大语言模型验证器的验证动态，提出三项关键发现，为测试时计算缩放（TTS）的优化提供重要指导。

随着LLM在复杂推理任务能力提升，测试时计算缩放（TTS）成为提升性能的重要范式：生成器产生多个候选方案，验证器评估正确性无需参考答案。但验证器表现受多因素影响的问题尚未被系统性研究。本论文由Yefan Zhou等人完成，首次从三个关键维度全面分析生成式验证器行为，揭示深层规律。

生成式验证器通过生成思维链（CoT）推理过程给出二元判断，接近人类验证方式。与判别式验证器相比，其优势是可解释性强（展示推理链条），但更复杂，易受问题难度、候选答案质量、自身能力影响。

实验覆盖12个基准测试（数学推理、知识问答等领域），使用14个开源模型（2B-72B参数量）及GPT-4o作为闭源代表。核心创新是系统性操控三个变量：

1. 问题难度：观察简单/困难任务表现差异
2. 生成器能力：分析验证器检测强弱生成器错误的差异
3. 验证器生成能力：探究验证能力与模型解题能力的关系

发现一：简单问题更易验证

简单问题推理步骤少，认知负荷低，验证器判断失误概率低，可动态调整验证策略（简单问题轻量流程，复杂问题严格机制）。

发现二：弱生成器错误更易检测

弱生成器错误更明显（逻辑断裂、无关内容），强生成器错误隐蔽（关键步骤微小偏差）。实验显示Gemma2-9B与27B的性能差距在验证后缩小75.7%，弱生成器配合验证器可获高性价比效果。

发现三：验证能力与解题能力相关但非线性

验证能力通常与自身解题能力正相关，但随问题难度变化；强验证器优势并非所有情况成立，单纯扩大规模存在瓶颈。

1. 动态验证策略：根据问题难度和生成器特性选择验证器，避免一刀切。
2. 验证器-生成器配对：弱生成器配合验证器性价比高，适合资源受限场景。
3. 验证能力边界认知：验证非万能，需结合多轮验证、一致性检查等提升可靠性。

研究团队开源所有实验数据（候选解决方案、验证结果），可通过HuggingFace获取；代码仓库提供完整复现流程（支持本地vLLM或API提供商）；仓库含RQ1-RQ3可视化Notebook，帮助理解实验结果。

本研究为LLM验证能力提供重要理论基础。AI系统复杂度提升下，验证能力与生成能力同等重要。深入理解验证动态可构建更可靠高效的智能系统，验证技术将成为多智能体、自主AI安全性和可靠性的关键组件，为未来技术演进指明方向。