MidstreamAI 提取式问答机器人：零幻觉的语义检索系统实践

MidstreamAI提取式问答机器人是基于FastAPI和React的检索式问答系统，通过sentence-transformers和FAISS实现毫秒级文档检索，采用SOLID架构确保代码可维护性，核心特点为完全消除生成式AI的幻觉问题，仅返回文档中实际存在的原文片段。

项目背景与核心问题

在企业知识管理和客户服务场景中，传统生成式AI聊天机器人存在幻觉痛点，可能编造错误信息。MidstreamAI采用纯检索式架构，核心设计理念为“零幻觉”，牺牲部分对话灵活性以换取准确性和可信度。

技术架构概览

• 前后端分离：后端基于FastAPI，前端使用React 18+配合TypeScript
• 后端核心组件：文档加载服务（工厂模式支持多格式）、文本分块处理器（默认200词/块，重叠30词）、嵌入向量生成器、FAISS向量存储
• 文本分块策略：平衡检索精度与上下文完整性，可调整CHUNK_SIZE参数

嵌入模型与向量检索

• 嵌入模型：选用sentence-transformers/all-MiniLM-L6-v2，384维向量，兼顾效率与效果
• 向量检索：FAISS引擎提供毫秒级近似最近邻搜索，实测响应时间低于200毫秒
• 置信度阈值：默认0.4，过滤低相关性结果，可根据业务调整

SOLID原则实践

• 单一职责：各服务职责明确（DocumentService、QueryService等）
• 开闭原则：文档加载器通过工厂模式扩展新格式
• 里氏替换：IVectorStore接口支持不同存储实现互换
• 接口隔离：细粒度接口设计（IDocumentLoader仅定义load方法）
• 依赖倒置：高层模块依赖接口而非具体实现

前端交互与部署配置

• 前端：React+Material-UI，智能格式化（标题加粗、换行等）、片段提取、对比查询、职业内容过滤
• 部署：后端Python 3.9+（uvicorn运行），前端Node.js 16+（Vite构建）
• 配置：可调参数包括CHUNK_SIZE、CONFIDENCE_THRESHOLD、TOP_K_RESULTS等，文档热更新机制

适用场景与价值主张

• 适用场景：医疗、法律、金融等对准确性要求高的行业，技术文档查询，企业知识库
• 价值：零幻觉特性，低AI应用准入门槛（无需训练专用模型）

局限性与总结启示

• 局限性：无法回答未涵盖问题，无推理能力，不支持多轮上下文
• 总结：根据业务需求选择合适方案，SOLID原则等软件工程实践确保项目可维护性，为企业知识库问答系统提供参考