PACS：概率常识推理框架——建模个体信念差异的溯因推理新方法

本文介绍概率溯因常识推理（PACS）算法，通过显式建模常识信念的个体差异，结合大语言模型（LLM）和形式求解器采样证明，聚合多个个体的常识信念，解决形式化推理器缺乏世界知识的问题，并在多个基准上超越思维链和神经符号方法。

神经符号推理的常识困境

近年来，神经符号框架结合LLM与形式化逻辑求解器，但形式化求解器缺乏常识性世界知识，无法完成人类轻易的推理步骤。

现有方案的盲点

先前方案用LLM提供常识假设，但隐含常识普世一致的错误假设。现实中常识信念存在个体差异（如“狗是否危险”“辛辣食物是否有害”的分歧），简单假设标准答案易导致结果与直觉相悖。

PACS框架核心思想是显式建模常识信念的个体差异，通过概率方法聚合多观点判断陈述是否符合多数人常识。

溯因推理本质

从观察结果推断最佳解释，如地面湿推断下雨，是常识推理常见模式。

概率化建模

将个体信念建模为概率分布，承认信念多样性，通过采样捕捉分布特征。

PACS执行三步骤：

1. 信念采样：用LLM生成多个虚拟个体的常识假设集合，捕捉信念分布；
2. 形式化证明：结合形式求解器构造每个信念集合下的逻辑有效推理证明；
3. 结论聚合：统计支持某结论的个体比例，反映主流观点。

PACS在多个推理基准评估中表现卓越：

• 超越思维链推理：显式形式化推理和概率常识建模更有效；
• 优于神经符号方法：灵活处理常识分歧带来性能提升；
• 胜过搜索方法：采样-聚合策略兼顾效果与效率。

PACS代表范式转变：从追求绝对正确推理到接受概率共识。

• 人性化AI：理解人类推理的文化、经验影响；
• 领域启示：为知识表示、决策制定、伦理判断等提供概率建模思路。

PACS的局限及未来探索方向：

1. 采样效率：降低LLM调用和求解成本，开发高效采样策略；
2. 信念校准：确保采样信念分布反映人类多样性，避免训练数据偏见；
3. 动态更新：让系统适应常识信念随时间的变化。

PACS通过概率化溯因推理框架，解决形式化系统与常识知识的鸿沟，承认常识多样性，通过采样聚合捕捉群体共识，在基准上领先，为常识推理研究开辟新道路。