Cortex是一款基于PySide6开发的桌面AI助手，通过Ollama框架在本地运行大语言模型，实现完全离线的智能对话、翻译和记忆功能，确保数据隐私零泄露。

Cortex：基于Ollama的本地桌面AI助手，打造完全私密的智能对话体验\n\n## 项目概述\n\n在AI技术飞速发展的今天，数据隐私问题日益凸显。大多数AI服务需要将用户数据上传至云端进行处理，这无疑带来了潜在的隐私风险。Cortex应运而生，它是一款专为注重隐私的用户设计的桌面AI助手，通过Ollama框架在本地运行大语言模型，实现完全离线的智能对话体验。\n\nCortex采用PySide6构建原生桌面界面，结合Ollama的模型编排能力，让用户能够在自己的设备上享受流畅的AI对话服务，而无需担心数据泄露给第三方。\n\n## 核心功能特性\n\nCortex不仅仅是一个简单的聊天界面，它提供了一套完整的本地AI交互解决方案：\n\n### 1. 本地对话系统\n\n用户可以通过配置Ollama模型参数，与本地部署的大语言模型进行自然对话。系统支持自定义生成模型、主机地址和生成参数，为技术用户提供了充分的灵活性。\n\n### 2. 智能会话管理\n\nCortex内置了完善的会话管理功能，包括新对话创建、自动生成对话标题、以及完整的历史记录检索。这些功能通过多线程Worker实现，确保在长时间运行的模型操作期间，UI依然保持响应。\n\n### 3. 实时翻译管道\n\n项目集成了可选的后生成翻译功能，使用专门的翻译模型对AI输出进行实时翻译。这一特性对于多语言用户尤为实用，可以在保持本地运行的同时获得母语级别的交互体验。\n\n### 4. 上下文感知建议\n\nCortex能够根据当前对话内容生成上下文相关的后续问题建议，帮助用户更深入地探索话题。这一功能同样基于本地模型运行，不依赖任何外部API。\n\n### 5. 双层记忆系统\n\n项目的记忆系统分为两个层次：\n\n- 向量记忆检索：通过嵌入模型实现语义级别的上下文查找\n- 永久备忘录记忆：持久化的用户/项目记忆，用于提升回复的相关性\n\n这种双层架构既保证了短期对话的连贯性，又实现了长期知识的积累。\n\n## 系统架构设计\n\nCortex采用了清晰的三层架构设计，确保代码的可维护性和扩展性：\n\n### 表现层（Presentation Layer）\n\n基于PySide6构建的桌面应用界面，包含主窗口、对话框、聊天界面、设置面板、记忆控制组件等。系统支持浅色/深色主题切换，并通过QSettings持久化UI状态。\n\n### 编排层（Orchestration Layer）\n\nChat_LLM.py中的Orchestrator协调模型调用、线程生命周期和功能开关。通过Worker对象和QThread将阻塞操作（如查询执行、标题生成、模型连接检查）隔离到独立线程，保证主界面流畅响应。\n\n### 数据与模型层（Data + Model Layer）\n\n- Ollama客户端交互：负责推理和嵌入计算\n- 持久化存储：SQLite数据库存储聊天记录和记忆数据\n- 提示词构建：合成代理（synthesis agent）负责提示工程、生成、翻译和建议功能\n\n## 技术实现亮点\n\n### 本地优先的数据策略\n\n所有对话数据、记忆内容和用户配置都存储在本地SQLite数据库中，不会上传到任何云端服务器。这种设计从根本上消除了数据泄露的风险。\n\n### 多线程架构保障响应性\n\n通过将模型推理、标题生成、更新检查等耗时操作放入独立的工作线程，Cortex确保即使在处理复杂查询时，用户界面依然保持流畅响应。\n\n### 模块化组件设计\n\n项目代码结构清晰，各功能模块职责分明：\n\n\nChat_LLM/\n├── assets/ # 图标和提示词资源\n└── Chat_LLM/\n ├── Chat_LLM.py # 主应用入口和编排器\n ├── main_window.py # 主UI窗口\n ├── synthesis_agent.py # 提示工程与生成逻辑\n ├── memory.py # 记忆和数据库管理\n └── ui_*.py # UI组件和样式\n\n\n## 快速开始\n\n### 环境要求\n\n- Python 3.10+\n- Ollama已安装并运行（默认地址：http://127.0.0.1:11434）\n\n### 安装步骤\n\n1. 克隆仓库并安装依赖：\n\nbash\npip install -r requirements.txt\n\n\n主要依赖包括：PySide6、markdown、ollama\n\n2. 安装Ollama：\n\n从Ollama官网下载并安装对应平台的版本。\n\n3. 启动Cortex：\n\nbash\npython Chat_LLM/Chat_LLM/Chat_LLM.py\n\n\n## 隐私与安全考量\n\nCortex的设计哲学是"本地优先、隐私至上"：\n\n- 零云端依赖：所有模型和数据都保留在用户设备上\n- 无第三方介入：不调用任何外部API进行数据处理\n- 数据主权：用户完全掌控自己的对话历史和记忆数据\n\n对于需要处理敏感信息的用户（如律师、医生、研究人员），Cortex提供了一个理想的本地AI解决方案。\n\n## 应用场景展望\n\nCortex适用于多种场景：\n\n- 隐私敏感环境：企业内网、涉密工作场所\n- 离线环境：网络受限或无法连接云端服务的场景\n- 个性化助手：通过记忆系统培养专属的个人AI助手\n- 开发测试：为AI应用开发者提供本地调试环境\n\n## 总结\n\nCortex代表了本地AI应用的一个重要方向——在享受大语言模型能力的同时，完全掌控自己的数据。通过精心设计的架构和本地优先的策略，它为用户提供了一个既强大又私密的AI助手选择。\n\n随着Ollama生态的不断完善和本地模型性能的提升，像Cortex这样的工具将在AI民主化进程中发挥越来越重要的作用。对于重视数据隐私的用户来说，Cortex无疑是一个值得尝试的开源项目。

Cortex：基于Ollama的本地桌面AI助手，打造完全私密的智能对话体验\n\n项目概述\n\n在AI技术飞速发展的今天，数据隐私问题日益凸显。大多数AI服务需要将用户数据上传至云端进行处理，这无疑带来了潜在的隐私风险。Cortex应运而生，它是一款专为注重隐私的用户设计的桌面AI助手，通过Ollama框架在本地运行大语言模型，实现完全离线的智能对话体验。\n\nCortex采用PySide6构建原生桌面界面，结合Ollama的模型编排能力，让用户能够在自己的设备上享受流畅的AI对话服务，而无需担心数据泄露给第三方。\n\n核心功能特性\n\nCortex不仅仅是一个简单的聊天界面，它提供了一套完整的本地AI交互解决方案：\n\n1. 本地对话系统\n\n用户可以通过配置Ollama模型参数，与本地部署的大语言模型进行自然对话。系统支持自定义生成模型、主机地址和生成参数，为技术用户提供了充分的灵活性。\n\n2. 智能会话管理\n\nCortex内置了完善的会话管理功能，包括新对话创建、自动生成对话标题、以及完整的历史记录检索。这些功能通过多线程Worker实现，确保在长时间运行的模型操作期间，UI依然保持响应。\n\n3. 实时翻译管道\n\n项目集成了可选的后生成翻译功能，使用专门的翻译模型对AI输出进行实时翻译。这一特性对于多语言用户尤为实用，可以在保持本地运行的同时获得母语级别的交互体验。\n\n4. 上下文感知建议\n\nCortex能够根据当前对话内容生成上下文相关的后续问题建议，帮助用户更深入地探索话题。这一功能同样基于本地模型运行，不依赖任何外部API。\n\n5. 双层记忆系统\n\n项目的记忆系统分为两个层次：\n\n- 向量记忆检索：通过嵌入模型实现语义级别的上下文查找\n- 永久备忘录记忆：持久化的用户/项目记忆，用于提升回复的相关性\n\n这种双层架构既保证了短期对话的连贯性，又实现了长期知识的积累。\n\n系统架构设计\n\nCortex采用了清晰的三层架构设计，确保代码的可维护性和扩展性：\n\n表现层（Presentation Layer）\n\n基于PySide6构建的桌面应用界面，包含主窗口、对话框、聊天界面、设置面板、记忆控制组件等。系统支持浅色/深色主题切换，并通过QSettings持久化UI状态。\n\n编排层（Orchestration Layer）\n\nChat_LLM.py中的Orchestrator协调模型调用、线程生命周期和功能开关。通过Worker对象和QThread将阻塞操作（如查询执行、标题生成、模型连接检查）隔离到独立线程，保证主界面流畅响应。\n\n数据与模型层（Data + Model Layer）\n\n- Ollama客户端交互：负责推理和嵌入计算\n- 持久化存储：SQLite数据库存储聊天记录和记忆数据\n- 提示词构建：合成代理（synthesis agent）负责提示工程、生成、翻译和建议功能\n\n技术实现亮点\n\n本地优先的数据策略\n\n所有对话数据、记忆内容和用户配置都存储在本地SQLite数据库中，不会上传到任何云端服务器。这种设计从根本上消除了数据泄露的风险。\n\n多线程架构保障响应性\n\n通过将模型推理、标题生成、更新检查等耗时操作放入独立的工作线程，Cortex确保即使在处理复杂查询时，用户界面依然保持流畅响应。\n\n模块化组件设计\n\n项目代码结构清晰，各功能模块职责分明：\n\n\nChat_LLM/\n├── assets/ 图标和提示词资源\n└── Chat_LLM/\n ├── Chat_LLM.py 主应用入口和编排器\n ├── main_window.py 主UI窗口\n ├── synthesis_agent.py 提示工程与生成逻辑\n ├── memory.py 记忆和数据库管理\n └── ui_*.py UI组件和样式\n\n\n快速开始\n\n环境要求\n\n- Python 3.10+\n- Ollama已安装并运行（默认地址：http://127.0.0.1:11434）\n\n安装步骤\n\n1. 克隆仓库并安装依赖：\n\nbash\npip install -r requirements.txt\n\n\n主要依赖包括：PySide6、markdown、ollama\n\n2. 安装Ollama：\n\n从Ollama官网下载并安装对应平台的版本。\n\n3. 启动Cortex：\n\nbash\npython Chat_LLM/Chat_LLM/Chat_LLM.py\n\n\n隐私与安全考量\n\nCortex的设计哲学是"本地优先、隐私至上"：\n\n- 零云端依赖：所有模型和数据都保留在用户设备上\n- 无第三方介入：不调用任何外部API进行数据处理\n- 数据主权：用户完全掌控自己的对话历史和记忆数据\n\n对于需要处理敏感信息的用户（如律师、医生、研究人员），Cortex提供了一个理想的本地AI解决方案。\n\n应用场景展望\n\nCortex适用于多种场景：\n\n- 隐私敏感环境：企业内网、涉密工作场所\n- 离线环境：网络受限或无法连接云端服务的场景\n- 个性化助手：通过记忆系统培养专属的个人AI助手\n- 开发测试：为AI应用开发者提供本地调试环境\n\n总结\n\nCortex代表了本地AI应用的一个重要方向——在享受大语言模型能力的同时，完全掌控自己的数据。通过精心设计的架构和本地优先的策略，它为用户提供了一个既强大又私密的AI助手选择。\n\n随着Ollama生态的不断完善和本地模型性能的提升，像Cortex这样的工具将在AI民主化进程中发挥越来越重要的作用。对于重视数据隐私的用户来说，Cortex无疑是一个值得尝试的开源项目。