Nexus Chat：模块化智能聊天系统与MCP协议实践

Nexus Chat是一款功能丰富的模块化智能聊天系统，核心亮点包括：支持多LLM提供商（Anthropic Claude、OpenAI GPT、Ollama）、内置智能体工具系统与RAG检索增强生成能力、完整实现Model Context Protocol（MCP）协议以标准化接入外部服务；技术栈采用Python FastAPI后端+React前端，通过Docker实现一键部署，是首批完整落地MCP协议的开源项目之一。

Nexus Chat整合多LLM支持、智能体工具系统和RAG能力于一体，采用分层架构设计，后端基于Python FastAPI构建，前端使用React开发，通过Docker完成一键部署。其核心价值在于作为首批完整实现MCP协议的开源项目，展示了AI对话系统与外部服务的标准化接入方式。

多LLM提供商支持

原生支持Anthropic Claude、OpenAI GPT、Ollama三大模型家族，可根据场景灵活选择（能力优先选Claude、成本优先选GPT、隐私优先选本地Ollama）；配置通过YAML管理，API密钥支持环境变量注入。

智能体工具系统

内置计算器、代码执行器、网络搜索等常用工具，提供低门槛插件扩展机制（编写工具类→注册配置→导入主模块）。

RAG文档检索

支持文件上传与ChromaDB向量检索，自动完成文档分块、嵌入和索引，实现上下文感知的问答。

流式对话体验

通过WebSocket实现实时流式响应，用户可逐字查看模型思考过程，提升交互自然度。

Model Context Protocol（MCP）是Anthropic推出的开放协议，用于标准化AI模型与外部数据源、工具的交互。Nexus Chat完整实现MCP客户端，可连接任意符合协议的MCP服务器，并提供SQLite MCP服务器示例。

接入自定义MCP服务只需三步：1.实现initialize、tools/list、tools/call三个标准方法；2.添加健康检查端点；3.在配置中注册服务地址。

分层架构

代码按职责分层：providers封装LLM调用、tools管理工具与插件、mcp实现协议客户端、rag处理文档检索，模块职责明确便于维护。

配置驱动设计

所有可变行为（模型参数、工具开关、MCP连接信息等）通过YAML配置控制，无需修改代码即可适配不同环境。

Docker原生支持

提供完整Docker Compose配置，支持标准模式与MCP模式启动，所有服务共享nexus-net桥接网络，确保容器通信顺畅。

应用场景

• 企业内部多LLM统一管理平台
• 垂直领域自定义工具链集成应用
• 私有文档知识库问答系统
• MCP协议与工具集成实验场景

开发体验

提供跨平台开发脚本（start_dev.sh/bat）支持Linux/macOS/Windows；前后端分离架构可独立迭代，WebSocket实时反馈提升调试效率。

技术栈

后端：Python 3.11+、FastAPI 前端：React 18+、Vite 向量存储：ChromaDB 部署：Docker、Docker Compose

总结

Nexus Chat是设计精良的开源聊天系统，不仅具备多LLM、工具系统、RAG等实用功能，更通过MCP协议的完整实现展示了AI系统与外部服务的标准化集成方式，为生产级AI应用开发提供了高参考价值的样本。