LPSR: 无需微调的推理时错误修正新方法

LPSR（Latent Phase-Shift Rollback）是一种无需微调或额外训练的推理时错误修正方法，通过监控残差流中的相位偏移实时检测错误，回滚KV缓存并注入引导向量，显著提升大语言模型在数学推理任务上的表现。其核心创新在于利用模型内部表征变化实现干预，在MATH-500基准测试中，8B模型性能超越标准70B模型，展现出高效的参数与计算效率。

大语言模型（LLM）在生成长链推理时存在错误累积问题：中间步骤错误会导致后续生成持续偏离正确方向，尤其在数学推理等多步任务中突出。传统解决方案如提示工程效果有限甚至适得其反，增大模型规模则带来高昂计算成本。

相位偏移检测

通过双重门控机制监控模型内部状态：

1. 余弦相似度：计算相邻token残差流方向变化，捕捉表征向量突然转向
2. 熵值分析：监测预测分布不确定性变化 当两指标触发阈值时判定错误。

错误修正操作

• KV缓存回滚：恢复到错误步骤前状态，消除错误影响
• 引导向量注入：向残差流注入预计算引导向量，修正生成方向 全程推理时进行，无需参数更新。

1. 与标准自回归对比：标准AR（28.8%）→ LPSR8B（44.0%），提升15.2个百分点（p<1e-15）
2. 与提示自我修正对比：提示修正（19.8%）低于标准AR，LPSR相对提升24.2个百分点（p≈0）
3. 与Best-of-N对比：Best-of-16（36.2%）→ LPSR（44.0%），token成本仅为前者1/5.4
4. 跨规模对比：LPSR8B（44.0%）超越标准70B模型（35.2%），参数减少8.75倍。

对32层模型逐层扫描发现：错误检测最佳层（14层，AUC=0.718）与修正最佳层（16层，准确率44.0%）不同。单纯在检测最优层干预无法获得最佳任务表现，为推理时干预方法设计提供指导。

• 关键层选择：需根据任务通过小规模验证集扫描确定（MATH-500最优为16层）
• 引导向量：通过对比学习基于正确/错误路径表征差异构建
• 计算开销：主要来自残差流监控、KV回滚和引导注入，相对于前向传播可忽略，保持高效推理。

局限

• 任务特异性：仅验证数学推理，其他任务有效性待确认
• 引导向量：预计算方法细节未完全公开
• 超参数敏感：阈值和关键层需任务调优

未来方向

1. 自适应关键层选择
2. 跨任务迁移引导向量
3. 与思维链、树状搜索等方法协同

LPSR为LLM推理优化提供新路径：无需重新训练，通过推理时内部状态监控提升性能，契合"推理时扩展"趋势。对开发者而言，是提升推理质量的可行方案。其核心思想为构建可靠AI系统提供参考，有望推动推理时计算优化领域进展。