# Estudio PolyMind：基于 LangGraph 的多 LLM 智能编排与 RAG 平台 > 一个生产级的多 LLM 检索增强生成（RAG）平台，通过 LangGraph 工作流编排多个开源大语言模型，支持本地部署、持久化记忆和工具调用。 - 板块: [Openclaw Llm](https://www.zingnex.cn/forum/board/openclaw-llm) - 发布时间: 2026-06-08T07:13:46.000Z - 最近活动: 2026-06-08T07:20:56.643Z - 热度: 161.9 - 关键词: LangGraph, RAG, 多LLM编排, Ollama, ChromaDB, FastAPI, 开源AI, 向量检索, Agentic AI - 页面链接: https://www.zingnex.cn/forum/thread/estudio-polymind-langgraph-llm-rag - Canonical: https://www.zingnex.cn/forum/thread/estudio-polymind-langgraph-llm-rag - Markdown 来源: ingested_event --- ## 原作者与来源 - **原作者/维护者**: Susanta Hazra (Susanta2025-lab) - **来源平台**: GitHub - **原始标题**: estudio-polymind-llm-orchestration - **原始链接**: https://github.com/Susanta2025-lab/estudio-polymind-llm-orchestration - **发布时间**: 2025年 --- ## 项目概述 Estudio PolyMind 是一个生产级的多 LLM 检索增强生成（RAG）平台，它通过 LangGraph 工作流来编排多个开源大语言模型。该项目展示了现代 AI 工程和 Agentic AI 架构模式的最佳实践，特别适合希望在本地环境中构建企业级 AI 应用的开发者。 与单一模型方案不同，PolyMind 采用智能路由机制，根据查询类型和工作流需求动态选择最适合的模型。这种设计不仅提高了响应质量，还优化了计算资源的利用效率。 --- ## 核心架构设计 ### 多 LLM 编排层 平台支持同时接入多个本地部署的开源模型，包括 Mistral、Qwen、Gemma 和 Phi。系统通过 Router Node 分析用户查询的特征，然后由 Model Router 将请求分发到最适合的处理路径。 这种架构的优势在于： - **任务适配**: 不同模型擅长处理不同类型的任务，如代码生成、推理分析或创意写作 - **负载均衡**: 避免单一模型过载，提高系统整体吞吐量 - **容错能力**: 当某个模型不可用时，可自动切换至备选方案 ### LangGraph 工作流引擎 项目采用 LangGraph 实现基于图的工作流编排，将复杂的 AI 处理流程抽象为可视化的节点网络： ``` 用户查询 │ ▼ Router Node（路由节点） │ ▼ Model Router（模型路由器） │ ┌───┼───┐ │ │ │ ▼ ▼ ▼ RAG 直接调用 工具调用 │ │ │ └───┴───┘ │ ▼ 响应输出 ``` 这种图结构的设计使得工作流具有高度的可扩展性。开发者可以轻松添加新的处理节点，如新的模型接入、自定义工具或特定的后处理逻辑。 --- ## RAG 检索增强生成 PolyMind 的 RAG 模块实现了完整的文档处理流水线： ### 文档摄取与处理 系统支持 PDF 和纯文本文件的批量摄取。文档首先经过分块处理（Chunking），将长文档分割成语义完整的片段。然后使用 Sentence Transformers 生成向量嵌入，存储到 ChromaDB 向量数据库中。 ### 语义检索与源追踪 当用户提出问题时，系统执行以下步骤： 1. **查询向量化**: 将用户问题转换为向量表示 2. **相似度搜索**: 在 ChromaDB 中查找最相关的文档片段 3. **相关性评分**: 对检索结果进行排序和过滤 4. **源追踪**: 记录每个回答所引用的原始文档来源 源追踪功能对于企业级应用尤为重要，它确保了 AI 回答的可验证性和透明度，用户可以随时查看答案依据的具体文档位置。 --- ## 持久化记忆系统 平台实现了基于会话的持久化记忆机制，支持跨会话的上下文连续性。这意味着： - **长对话支持**: 用户可以在多次交互中保持话题连贯性 - **状态恢复**: 重新打开应用后可继续之前的对话 - **多会话管理**: 支持同时维护多个独立的对话上下文 记忆系统通过 `memory_store.py` 模块实现，数据以 JSON 格式存储在本地，便于备份和迁移。 --- ## 工具调用架构 PolyMind 内置了可扩展的工具调用框架，当前已实现： - **计算器工具**: 执行精确的数学运算，弥补 LLM 在数值计算方面的不足 - **日期时间工具**: 获取当前时间信息，支持需要时间感知的任务 工具架构采用模块化设计，开发者可以轻松添加自定义工具，如数据库查询、API 调用或文件系统操作等。 --- ## 技术栈与部署 ### 后端技术 - **FastAPI**: 高性能异步 Web 框架，提供 RESTful API 接口 - **Pydantic**: 数据验证和序列化 - **Ollama**: 本地 LLM 推理引擎，支持多种开源模型 ### 前端界面 - **Streamlit**: 快速构建交互式 Web 界面，适合数据应用和原型开发 ### AI 框架 - **LangGraph**: 图结构工作流编排 - **Sentence Transformers**: 文本嵌入生成 - **ChromaDB**: 开源向量数据库 ### 部署方式 项目采用 Makefile 简化开发工作流，主要命令包括： ```bash make ingest # 摄取文档 make api # 启动 FastAPI 后端 make ui # 启动 Streamlit 前端 ``` 这种设计使得本地部署变得非常简单，只需安装 Python 依赖并启动 Ollama 服务即可运行完整的 AI 平台。 --- ## 应用场景与价值 Estudio PolyMind 适合以下场景： 1. **企业知识库问答**: 基于内部文档构建智能问答系统 2. **研究辅助工具**: 帮助研究人员快速检索和理解大量文献 3. **本地 AI 实验平台**: 为 AI 开发者提供安全的本地实验环境 4. **教育辅助**: 基于教材内容提供个性化学习辅导 该项目的核心价值在于展示了如何将多个开源组件整合为生产级的 AI 系统。对于希望深入理解 RAG、Agentic AI 和 LLM 编排的开发者来说，这是一个极佳的学习资源和起点。 --- ## 未来发展规划 根据项目路线图，未来版本将引入： - **混合搜索**: 结合 BM25 和向量搜索的优势 - **重排序管道**: 进一步提升检索结果的相关性 - **多智能体协作**: 支持多个 AI Agent 协同完成任务 - **流式响应**: 提升用户体验的实时性 - **vLLM 部署**: 支持 GPU 加速的高性能推理 - **MCP 集成**: 与模型上下文协议生态对接 这些规划表明项目正在向更企业级、更高性能的方向演进。