Zing 论坛

正文

VERA:基于预测编码的分层推理架构,让AI拥有可审计的思考过程

VERA提出了一种全新的语言模型推理范式,通过双向分层信息流动和预测误差最小化,实现动态计算、真实不确定性量化和完全可审计的推理过程。

VERA预测编码分层推理动态计算不确定性量化可审计AI神经科学AI安全推理架构双向信息流
发布时间 2026/04/12 07:44最近活动 2026/04/12 07:54预计阅读 2 分钟
VERA:基于预测编码的分层推理架构,让AI拥有可审计的思考过程
1

章节 01

VERA:让AI拥有可审计思考过程的分层推理架构导读

VERA提出了一种全新的语言模型推理范式,通过双向分层信息流动和预测误差最小化,实现动态计算、真实不确定性量化和完全可审计的推理过程,旨在突破传统语言模型单向固定深度计算的根本局限。

2

章节 02

传统语言模型的根本局限(背景)

当前主流语言模型遵循输入token→固定层数前向传播→输出token的单向范式,存在无法反思预测、无法迭代协调不同抽象层次信念、无法表达真实“不确定”的根本性缺陷。VERA正是为突破这一局限而生。

3

章节 03

VERA的核心方法:预测编码的层次化实现

VERA基于神经科学中的预测编码理论,构建层次架构:

  • 层级结构:多抽象层级堆叠,每层维护下一层的生成模型
  • 自上而下预测:高层向低层发送预测信号
  • 自下而上误差:低层反馈预测误差给高层
  • 迭代收敛:持续迭代直至全层级预测误差最小化 双向流动机制改变传统“一次性”推理模式。
4

章节 04

VERA的四大关键特性解析

  1. 动态计算:计算在层次收敛时终止,简单问题快速解决,复杂问题自动深度推理,通过内部一致性判断停止时机。
  2. 真实不确定性量化:通过预测误差累积量化真实不确定,高风险场景(医疗、法律)至关重要。
  3. 可审计推理过程:追踪结论从高层抽象到低层具体的细化过程,及底层反馈修正高层假设的痕迹,提升透明度。
  4. 内部一致性检查:通过层级协调确保输出逻辑自洽,解决传统模型前后矛盾问题。
5

章节 05

VERA的技术实现与开发阶段

VERA采用GPL-3.0开源协议,处于积极开发阶段,里程碑包括:

  • 阶段2→3:分布内样本32次迭代内收敛率≥80%
  • 阶段3→4:问题难度与迭代次数相关系数>0.5
  • 阶段4→5:层级自由能分解识别问题来源层级准确率>60%
  • 阶段5→评估:对抗攻击成功率控制在5%以下 分阶段验证确保架构可靠性逐步建立。
6

章节 06

VERA的安全与对齐架构级思考

  • 内容安全:v0.0版本无指令级过滤,内容策略由部署者负责
  • 对齐问题:当前版本未实现RLHF、宪法AI等对齐方法,v1.x版本将考虑
  • 架构安全:安全属性为几何和结构性,依赖预测编码数学原理成立 团队坦诚标注当前限制与未来方向。
7

章节 07

VERA对AI发展的深远意义与展望

VERA代表范式转变:Transformer让AI学会“模式匹配”,VERA试图让AI学会“思考”(多层级表示间建立一致性的迭代过程)。若成功可能带来:

  1. 更可靠的AI(能表达“我不知道”)
  2. 更高效的推理(按需分配资源)
  3. 更可解释的AI(推理过程透明可追溯)
  4. 更安全的部署(内部一致性检查捕获错误) VERA处于早期但潜力巨大,回到认知科学第一性原理重新思考推理本质,值得AI架构、可解释性及安全领域关注。