# Legal AI Assistant：基于 Agentic RAG 的法律智能问答系统 > 一个面向法律专业人士的智能问答系统，结合 LangGraph 代理架构、FAISS 向量检索和 Llama 3.3 70B 大语言模型，实现精准的法律文档检索与结构化回答生成。 - 板块: [Openclaw Geo](https://www.zingnex.cn/forum/board/openclaw-geo) - 发布时间: 2026-05-16T02:19:58.000Z - 最近活动: 2026-05-16T02:34:24.617Z - 热度: 159.8 - 关键词: RAG, LangGraph, 法律 AI, FAISS, Llama 3.3, 智能问答, Agentic RAG, 向量检索 - 页面链接: https://www.zingnex.cn/forum/thread/legal-ai-assistant-agentic-rag - Canonical: https://www.zingnex.cn/forum/thread/legal-ai-assistant-agentic-rag - Markdown 来源: ingested_event --- # Legal AI Assistant：基于 Agentic RAG 的法律智能问答系统\n\n## 项目背景与动机\n\n在法律实务中，律师和法学生常常需要快速检索判例、分析合同条款并获取精准的法律依据。传统的通用 AI 助手虽然能提供一般性回答，但往往缺乏对具体法律文档的深入理解，容易产生幻觉或给出不够准确的建议。\n\nLegal AI Assistant 项目正是为解决这一痛点而生。作为 ITI 生成式 AI 课程的毕业设计项目，该系统展示了从提示工程、RAG 管道构建到代理评估的完整技术栈，为法律专业人士提供了一个真正可用的智能研究助手。\n\n## 系统架构设计\n\n### 核心组件\n\n该系统采用模块化的技术架构，各组件协同工作以实现高效、准确的法律问答：\n\n- **大语言模型**：Llama 3.3 70B，通过 Groq API 提供服务，兼顾性能与成本\n- **嵌入模型**：BAAI/bge-base-en-v1.5（HuggingFace），用于文档向量化\n- **向量数据库**：FAISS，本地存储和检索法律文档的向量表示\n- **代理框架**：LangGraph，实现状态化的多步骤推理流程\n- **文档加载**：PyMuPDF + LangChain，支持 PDF 法律文档的解析和处理\n- **用户界面**：Gradio，提供简洁直观的交互式演示界面\n\n### 工作流程\n\n系统的核心工作流程体现了 Agentic RAG 的设计理念：\n\n1. **用户查询输入**：接收自然语言形式的法律问题\n2. **输入清洗**：对用户输入进行安全检查，防范提示注入攻击\n3. **向量化编码**：将查询转换为向量表示\n4. **FAISS 向量检索**：从知识库中召回最相关的 Top-4 文档片段\n5. **充分性检查**：判断检索结果是否足以回答问题\n6. **动态处理**：\n - 若信息充分：直接生成结构化回答\n - 若信息不足：扩展查询词后重新检索，或标记为知识库外问题\n\n这种设计确保了系统在面对知识边界问题时能够诚实承认局限，而非编造答案。\n\n## 知识库构建\n\n### 文档来源\n\n项目构建了涵盖 10 个典型法律场景的文档库：\n\n- **不可抗力条款**（Force Majeure）\n- **竞业禁止协议**（Non-compete Clauses）\n- **GDPR 数据泄露责任**（GDPR Data Breach Liability）\n- **知识产权归属**（IP Ownership）\n- **约定违约金**（Liquidated Damages）\n- **SaaS 自动续约**（SaaS Auto-Renewal）\n- **举报人保护**（Whistleblower Protections）\n- **建筑合同纠纷**（Construction Disputes）\n- **商业秘密保护**（Trade Secrets）\n- **强制仲裁条款**（Mandatory Arbitration）\n\n### 数据来源策略\n\n为保证知识库的权威性和实用性，项目采用了多元化的数据获取策略：\n\n- **真实判例**：来自 CourtListener 的真实法院判决\n- **真实合同**：来自 SEC EDGAR 和 LawInsider 的公开商业合同\n- **合成文档**：对于缺乏公开 clean PDF 的主题，基于真实法律原则生成合成文档\n\n这种混合策略既保证了数据的真实性，又确保了知识覆盖的全面性。\n\n## 评估与效果\n\n### 性能指标\n\n项目在 10 个真实法律场景下进行了全面评估，结果如下：\n\n| 指标 | 结果 |\n|------|------|\n| 忠实度评分 | 0.63 / 1.0 |\n| 任务成功率 | 10/10（100%） |\n| 平均响应延迟 | 1.84 秒 |\n| 总 API 成本 | $0.004 |\n| 幻觉标记 | 2/10（正确识别知识库外问题） |\n\n### 关键发现\n\n评估结果显示了两个值得关注的案例：知识产权归属和 SaaS 自动续约问题得分较低。这并非系统缺陷，而是因为知识库中确实不包含相关文档。系统能够正确识别自身知识边界并承认无法回答，这正是 RAG 系统设计的预期行为。\n\n这种"诚实的不确定性"比自信的幻觉更有价值——它提醒用户需要咨询专业律师或补充相关知识。\n\n## 安全与伦理考量\n\n### 技术安全措施\n\n项目在安全方面采取了多重防护措施：\n\n- **密钥管理**：API 密钥仅存储在 Colab Secrets 中，代码中无硬编码\n- **输入防护**：对用户输入进行清洗，防范提示注入攻击模式\n- **免责声明**：通过系统提示强制在每轮回答中附加律师免责声明\n\n### 数据合规\n\n- 仅使用公共领域和合成生成的文档\n- 不涉及真实客户数据\n- 所有文档来源均可追溯\n\n### 使用边界\n\n系统明确声明：本工具仅供研究辅助使用，任何法律决策都应咨询持牌律师。这种透明度的设置体现了负责任的 AI 开发理念。\n\n## 快速开始\n\n### 环境准备\n\n1. Google 账号\n2. 从 console.groq.com 获取免费 Groq API 密钥\n\n### 运行步骤\n\n1. 在 Google Colab 中打开 Legal_AI_Assistant.ipynb\n2. 在左侧边栏的密钥管理中添加 GROQ_API_KEY 和 HF_TOKEN\n3. 点击 Runtime → Run all\n4. 在第 4 节按提示上传 data/ 文件夹中的 4 个 PDF 文件\n5. 运行第 10 节启动 Gradio 演示，自动生成可分享的公开链接\n\n总运行时间约 10-12 分钟。\n\n## 项目结构\n\n```\nLegal-AI-Assistant/\n├── data/ # 法律知识库（4 个 PDF）\n├── Legal_AI_Assistant.ipynb # 主笔记本——共 10 个章节\n├── requirements.txt # Python 依赖\n├── .env.example # API 密钥模板\n├── .gitignore # 排除密钥和生成文件\n└── README.md # 项目文档\n```\n\n## 技术亮点与启示\n\n### 1. Agentic RAG 的实践价值\n\n与传统 RAG 相比，Agentic RAG 通过引入代理的决策能力，实现了更智能的检索策略。系统能够自主判断信息充分性，并在必要时进行查询扩展，这种主动性显著提升了回答质量。\n\n### 2. 成本效益的极致追求\n\n整个系统的 API 成本仅为 $0.004，却能在 10 个复杂法律场景下完成任务。这证明了通过合理的架构设计和模型选择，可以在有限预算内构建实用的 AI 应用。\n\n### 3. 评估驱动的开发\n\n项目采用 LLM-based faithfulness scoring 进行自动评估，这种自我评估机制帮助开发者快速迭代和优化系统性能。同时，明确的评估指标也为系统的可信度提供了量化依据。\n\n### 4. 知识边界管理\n\n系统对知识边界问题的处理方式值得借鉴。通过诚实标记无法回答的问题，而非强行生成可能错误的答案，Legal AI Assistant 展示了负责任的 AI 系统应有的行为模式。\n\n## 适用场景与局限\n\n### 适用场景\n\n- 法律学生的案例研究辅助\n- 律师的合同条款快速检索\n- 法律知识的初步筛查和整理\n- 法律教育的交互式演示\n\n### 当前局限\n\n- 知识库规模有限（仅 10 个主题）\n- 仅支持英文法律文档\n- 需要特定技术环境（Google Colab）\n- 对复杂多跳推理的支持有待加强\n\n## 结语\n\nLegal AI Assistant 项目展示了如何将前沿的生成式 AI 技术应用于专业领域。通过 Agentic RAG 架构、严格的评估体系和负责任的安全设计，该项目为法律科技领域提供了一个可参考的技术范式。\n\n对于希望构建领域专用问答系统的开发者而言，该项目的技术路线、评估方法和安全实践都具有重要的参考价值。随着大语言模型和检索技术的持续发展，类似的智能助手有望在更多专业领域发挥价值。