基于大语言模型的智能客服工单自动推荐系统

本开源项目结合大语言模型（LLM）与TF-IDF技术，构建智能客服工单自动推荐系统，支持本地Ollama模型部署及TF-IDF降级策略，旨在解决企业客服场景中信息查找耗时、响应不一致等问题，提升客服效率与业务连续性。

在企业客服场景中，技术支持团队每日需处理大量重复性问题，客服人员常需手动在庞大知识库中搜索文档，耗时且易导致响应不一致。据行业统计，客服代表平均30%时间用于查找信息，新员工学习曲线长达数周。本项目提出智能化方案：利用LLM自动分析工单内容，匹配相关解决方案并实时推荐给客服人员。

系统采用前后端分离架构，技术栈包括：前端（Streamlit构建的渐变主题Web UI）、后端（FastAPI高性能API）、AI推理引擎（支持Ollama本地部署的llama3.2:1b模型）、文本匹配（TF-IDF作为LLM不可用时的降级方案）、知识库（CSV格式存储支持文章）。双模式设计核心优势为鲁棒性，确保LLM故障时仍能通过TF-IDF继续工作。

智能推荐引擎

当客服输入工单描述时，系统执行：1.语义理解（LLM提取关键意图与问题类型）；2.知识检索（搜索知识库语义相关文章）；3.相关性排序（综合匹配度与时效性）；4.结果呈现（卡片形式展示推荐文章，含标题、摘要、置信度分数）。

自动启动与部署

用户运行streamlit run app.py即可同时启动FastAPI（端口8000）与Streamlit界面（端口8501），降低部署门槛。

知识库管理

使用CSV文件存储知识文章，含标题、内容、标签、创建时间等字段，可通过Excel/Google Sheets编辑，无需数据库经验。

本系统适合以下场景：

• IT技术支持：帮助桌面支持团队快速定位故障排除指南
• 电商客服：自动推荐退换货政策、物流查询等常见问题解答
• SaaS产品支持：为新用户提供功能使用指导与最佳实践
• 内部IT服务台：协助员工解决VPN、邮箱、软件安装等问题

本地AI优先策略

选择Ollama运行LLM，敏感数据不离开本地服务器，保障隐私；llama3.2:1b模型可在消费级硬件流畅运行，降低成本。

优雅降级机制

LLM服务不可用时自动切换到TF-IDF模式，体现防御性编程理念，确保业务连续性。

渐进式增强架构

从TF-IDF基础版本开始，逐步引入LLM能力，验证业务价值后提升效果，避免复杂AI工程初期投入。

系统部署要求Python 3.8+，可选安装Ollama及llama3.2:1b模型。步骤： 1.克隆项目并进入目录 2.安装依赖：pip install -r requirements.txt 3.启动服务：streamlit run app.py 4.访问Web界面：http://localhost:8501 项目提供在线演示版本，方便快速体验功能。

本开源项目展示了LLM与传统软件工程结合构建实用企业级应用的方法，设计理念为简单、鲁棒、可扩展。核心价值在于证明AI技术可通过合理设计落地，构建智能可靠的生产系统。未来可根据需求添加多语言支持、工单自动分类、满意度反馈循环等功能，是提升客服效率的理想起点。