AI Support Copilot：构建生产级生成式 AI 客服系统的完整实践

AI Support Copilot是面向生产环境设计的全栈生成式AI客服助手系统，区别于简单调用ChatGPT API的演示，展示了企业级架构（检索、工具调用、信任控制均在服务端完成）。项目涵盖混合RAG检索、ReAct智能体工作流、流式对话、安全防护及完整评估体系，帮助技术团队理解和构建生产级AI客服副驾驶系统。

• 原作者/维护者：mpv33
• 来源平台：GitHub
• 项目名称：AI-Support-Copilot
• 定位：企业级AI客服架构，核心是帮助技术团队构建生产级系统，检索、工具调用、信任控制全部在服务端完成，而非依赖大语言模型本身。

混合检索系统（Hybrid RAG）

• 向量相似度（60%权重）：OpenAI text-embedding-3-small生成嵌入，余弦相似度匹配语义
• BM25文本检索（40%权重）：基于词频匹配关键词和错误代码
• 轻量级重排序提升结果质量

ReAct智能体工作流

1. 推理阶段：分析问题决定检索或调用工具
2. 行动阶段：执行检索或调用白名单工具（如get_order_status）
3. 观察阶段：根据结果决定下一步或生成回答

流式响应

前端用SSE实现：元数据优先返回、显示来源引用、令牌流式传输、明确完成标记。

安全防护

• 提示词注入防护：用户输入先经安全检测，拦截潜在攻击
• 检索质量门控：相似度<0.25拒绝回答，避免幻觉

技术栈

框架：Next.js16；前端：React19、Tailwind CSS v4；状态管理：Zustand；AI：OpenAI Node SDK；默认模型：gpt-4o-mini、text-embedding-3-small

评估体系

黄金问题评估：检索回归测试、端到端场景测试、CLI集成（npm run eval）。

核心设计原则

1. 后端掌控信任：API密钥、检索逻辑等均在服务端
2. 检索先于生成：先获取上下文再决定是否回答
3. 工具白名单：仅允许预定义工具
4. 流式优化体验

技能图谱

覆盖13项AI工程技能（LLM基础、RAG、智能体等），每个技能有对应可运行代码

结论

项目是生产级AI系统的优秀范例，帮助开发者区分演示级与生产级实现，掌握混合检索、ReAct智能体、流式响应等关键技术。

局限性

• 内存向量索引（演示用）
• 静态小型知识库（3个文档）
• 无认证、持久数据库或托管部署

生产扩展建议

• 存储层：迁移到Pinecone/pgvector
• 摄取管道：添加队列处理嵌入任务
• 认证授权：用户租户+文档访问控制
• 运维监控：速率限制、模型版本管理
• UI增强：对话历史、Markdown渲染、来源预览