ITA框架：融合神经符号推理的可解释性事实核查系统

本文介绍ITA（推理时论证）框架，针对高风险场景事实核查的二元分类局限与后验解释不忠实问题，融合形式化论证语义与LLM，实现三元事实核查（真/假/不确定），保证预测结果与推理过程一致，兼顾性能与可解释性，为医疗、金融等领域提供可信赖的AI支持。

现实困境

在医疗、金融、法律等高风险场景中，事实核查准确性至关重要，但信息环境充满不确定性：证据不完整、来源矛盾，二元分类（真/假）过于简化，"不确定"判断更诚实；用户需理解模型决策依据。

后验解释问题

主流LLM先生成答案再构造解释（后验解释），易导致解释与真实推理脱节（"不忠实解释"），高风险场景下用户无法验证模型判断依据，存在偏见或错误关联隐患。

ITA框架定义

Inference-Time Argumentation（ITA）是融合神经符号推理的三元事实核查框架，核心是将形式化论证语义整合到LLM训练与推理中。

形式化论证语义作用

1. 量化论证强度：为每个论证分配基础分数（内在可信度）
2. 计算主张强度：基于论证间攻击/支持关系，得出综合强度
3. 推导三元判断：映射强度到真/假/不确定

神经与符号融合

• 训练阶段：LLM学习生成论证并分配分数，目标基于论证质量对预测的贡献
• 推理阶段：通过形式化语义确定性计算输出，保证预测与论证结构的必然联系

工作流程

1. 论证生成：LLM分析主张与证据，生成支持/反对论证集合
2. 分数分配：为论证分配反映证据强度和来源可信度的基础分数
3. 交互分析：识别论证间攻击/支持关系
4. 强度计算：应用形式化语义计算主张综合强度
5. 三元分类：按阈值归类为真/假/不确定

流程确保每一步可追溯，用户可检查论证及强度计算过程。

实验结果

在两个三元事实核查数据集评估：

• 与论证基线对比：显著优于传统方法，因端到端训练优化论证生成与分数分配、形式化语义更严谨、神经组件处理自然语言复杂性
• 与直接预测基线对比：性能相当，打破"可解释性与性能不可兼得"假设

可解释性优势

• 显式论证结构：列出所有支持/反对主张的论证
• 可计算分数：论证强度有明确数学定义与计算过程
• 确定性推理：给定论证与分数，结论唯一确定
• 可审计决策：用户/审计者可逐步验证推理正确性

医疗信息核查

• 标记证据不足的主张为"不确定"
• 提供支持/反对医疗主张的论证链
• 帮助用户理解健康建议可信度

金融舆情分析

• 分析公司财务状况相关说法
• 区分有充分证据的判断与推测性结论
• 为分析师提供结构化论证参考

法律辅助研究

• 评估判例与当前案件的相关性论证
• 识别法律主张中的证据缺口
• 支持律师构建有力论证结构

技术意义

ITA是神经符号AI领域重要进展，有机结合深度学习表达能力与符号推理可解释性，非简单对立。

核心要点

• 融合形式化论证语义实现神经与符号推理深度整合
• 三元输出适应信息不确定性
• 消除后验解释不忠实问题
• 兼顾预测性能与结构化可审计的可解释性

未来方向

• 多语言扩展：应用于非英语场景
• 实时论证更新：支持动态证据环境下的修正
• 人机协作论证：结合人类专家知识完善自动论证
• 对抗鲁棒性：提升面对误导性证据的稳定性