RAG-Angular-Assistant：基于本地LLaMA3与FAISS的离线RAG助手实现

该开源项目由NA Eswari开发，旨在构建完全离线的检索增强生成（RAG）助手，针对Angular技术文档问答场景。核心技术栈包括LLaMA3（本地大模型）、FAISS（向量数据库）、HuggingFace嵌入模型、LangChain（流程编排）和Ollama（本地LLM运行时），无需依赖外部AI API，解决数据隐私、网络依赖、成本及供应商锁定问题。

传统RAG依赖商业API存在数据隐私风险（敏感数据发送第三方）、网络依赖（离线/内网无法用）、成本累积（高频调用费用高）、供应商锁定等问题。本地RAG系统可有效解决这些痛点，本项目是实践范例。

项目采用模块化架构，核心组件包括：

1. 嵌入层：HuggingFace Transformers（本地嵌入模型，数据不出本地）
2. 向量存储：FAISS（高性能开源向量搜索库，本地文件存储）
3. 推理引擎：Ollama + LLaMA3（简化本地模型管理与调用）
4. RAG编排：LangChain（协调整个流程，组件可替换）

系统分为文档摄取和查询处理两大阶段：

1. 文档摄取：运行ingest.py加载文档→分割文本→生成嵌入→存入FAISS索引
2. 查询处理：用户提问→问题转嵌入→FAISS语义检索→构建上下文提示→Ollama调用LLaMA3生成回答

项目通过严格提示词工程控制幻觉：要求模型仅基于检索到的上下文回答，若信息不足则返回"我不知道"，避免编造答案，提升系统可信度，适合技术文档问答场景。

应用场景包括企业内部知识库、开发者工具文档问答、离线学习辅助等。未来计划添加PDF摄取、多文档检索、Streamlit界面、对话记忆、LangGraph工作流等功能。

本项目证明：

• 消费级硬件可运行完全离线RAG系统
• 开源工具链（LangChain+FAISS+Ollama）支撑生产级应用
• 提示工程可有效控制模型幻觉 对关注隐私、成本和离线可用性的团队具有参考价值。