ProofAgent：企业级受控智能体框架与治理平台

ProofAgent是针对企业级AI Agent治理困境设计的受控智能体框架，核心通过Harness控制层在关键步骤插入策略决策点，实现工作流治理、策略执行、工具管控和完整审计。它填补了传统Agent框架（如LangChain、LangGraph）在治理层面的空白，帮助企业平衡AI能力爆发与风险控制，支持渐进式集成现有基础设施。

背景：企业级Agent的治理困境

随着大型语言模型能力爆发，AI Agent向生产部署迈进，但企业级应用对Agent提出严格要求：

• 可审计性：回答需追溯来源和决策依据
• 策略合规：行为符合企业政策，无违规内容或未授权操作
• 风险控制：工具调用需审批，敏感操作人工确认
• 质量保障：回答有可靠证据，无幻觉或编造信息
• 记忆边界：会话数据存储符合隐私法规 传统框架提供编排能力，但治理依赖开发者自行实现，ProofAgent为此而生。

核心理念与架构设计

Harness控制层

ProofAgent核心是"Harness Engineering"——在Agent执行流外包裹控制层，插入关键策略决策点：

• 强制检索：回答前必须知识检索
• 证据评估：检索结果质量评估，不足则拒绝或升级
• 引用强制：有证据的回答需包含来源
• 工具审批：调用前显式批准，支持人工介入
• 审计追踪：完整记录执行轨迹

分层架构

• 交付层：CLI/Docker入口，快速部署
• 控制平面：核心治理层（工作流编排、策略门控等）
• 运行时平面：LangGraph/LangChain适配边界
• 能力层：模型、知识源、工具等实现
• 可观测性层：轨迹存储、治理凭证、Dashboard API 分层设计支持独立升级各组件，不影响控制策略。

Harness RAG与Agent契约配置

Harness RAG流程

与普通RAG对比：

• 普通RAG：检索→生成
• Harness RAG：检索→策略检查→证据评估→策略检查→生成/拒绝→工具审批→审计 确保无证据查询被拒绝、回答带引用、敏感操作需审批、轨迹可审查

声明式配置

• agent.yaml：Agent契约（身份、能力参数）
• policy.yaml：控制策略（证据阈值、拒绝条件等）
• tools.yaml：工具声明及审批规则
• knowledge/：业务知识源目录 配置驱动让非技术人员参与治理策略调整，无需改代码。

企业级Q&A模板与使用方式

Q&A模板示例

• 支持查询：如"差旅餐饮报销规则"→检索知识库+带引用回答
• 拒绝查询：如"明年客户折扣"→证据不足拒绝/升级
• 工具依赖查询：如"查询客户保单状态"→等待工具审批 产出物：
• trace.jsonl：完整执行轨迹
• governance_receipt.md：人类可读治理凭证

技术实现

• 本地演示：uv run --extra dev proof-agent demo（对比Plain RAG与Harness RAG）
• 配置运行：uv run --extra dev proof-agent run examples/enterprise_qa/agent.yaml
• Docker部署：docker compose up 使用Python开发，支持多种运行模式。

治理凭证与适用场景

治理凭证

每次运行生成：

• JSONL轨迹：毫秒级执行记录（决策点输入/输出/理由）
• Markdown治理凭证：摘要（查询、检索结果、证据评估、决策路径等） 可作为合规审计依据

适用场景

• 金融合规问答：投资建议有政策依据
• 医疗知识查询：诊断基于权威指南
• 企业内部知识库：控制敏感信息访问
• 客户服务自动化：明确自动化与人工升级边界
• 法规遵循助手：回答符合最新法规 帮助企业在自动化中确保合规与风险控制。

项目状态与结语

项目状态

• 活跃开发中，v1提供核心框架和企业Q&A模板
• 文档丰富：开发者指南、PRD、技术设计等

未来愿景

构建完整企业Agent控制平台，支持更丰富策略、灵活集成和治理仪表板

结语

ProofAgent将治理、审计和策略执行提升为一等公民，从"能回答"到"能证明为什么可以回答"。开源性质让社区共同完善这一基础设施，帮助企业平衡AI能力与风险。