Castor：面向企业工作流的自托管AI代理平台

Castor是面向企业场景的自托管AI代理平台，旨在解决企业使用AI助手时面临的两难选择——SaaS服务的数据安全风险与自托管方案的高工程成本。其核心优势包括：数据完全本地化、支持任意OpenAI兼容LLM、多渠道交互（Web UI/终端/Telegram），可应用于客户运营、内部自动化、知识检索、定时报告等任务，为企业提供开箱即用且可控的AI自动化能力。

在AI助手普及的当下，企业用户面临关键矛盾：SaaS服务便捷但数据脱离自有基础设施，自托管方案需大量工程投入。Castor的核心理念是**“系统承担重任，模型保持灵活”**——通过工具搜索、语义记忆、调度器等系统级能力，让LLM专注于推理决策，避免冗长上下文干扰，适配从4B参数本地模型到云端大模型的各类规模。

运行时架构

Castor的运行时架构支持多交互入口（CLI/Web UI/Telegram Bot），核心Agent Loop连接语义记忆（Qdrant）、RAG、SQLite（状态存储）、工具生态、技能系统、浏览器自动化、MCP集成及调度器。

LLM兼容性

支持任何OpenAI兼容API端点：

• 托管服务：Azure OpenAI、AWS Bedrock、OpenAI、Groq等
• 本地部署：LM Studio、Ollama 用户可跨线程切换提供商无需重启。

嵌入模型

默认使用FastEmbed（multilingual-MiniLM，384维，支持50+语言），基于ONNX纯CPU运行，无需GPU即可流畅使用。

Castor vs 托管SaaS代理对比

维度	Castor	托管SaaS代理
数据控制	完全本地，不出境	发送至服务商
模型选择	任意OpenAI兼容端点	锁定服务商模型
定制化	完整代码+技能+人格	系统提示+少量钩子
成本模式	仅LLM调用费用	按席位/按动作计费
合规审计	自建审计轨迹	依赖服务商合规
硬件接入	原生USB/串口支持	无
可靠性	无服务商中断风险	依赖服务商SLA

核心能力矩阵

Castor具备多渠道交互、工具生态（8核心+搜索）、语义记忆（RAG）、浏览器自动化、MCP集成、定时任务、硬件直连、可视化画布等能力。

典型应用场景

• 客户运营：咨询分类路由、智能回复、工单跟踪
• 内部流程：定时报告、数据同步、审批自动化
• 知识检索：文档语义搜索、代码问答、会议摘要
• 硬件集成：秤重数据采集、扫描仪库存更新、PLC监控

系统要求

• 托管LLM部署：现代笔记本/小VM，代理进程约300MB内存
• 本地LLM部署：最低4GB GPU显存（4B模型）、8GB内存；推荐8GB GPU显存、16GB内存

安装方式

• Linux/macOS：curl -fsSL https://raw.githubusercontent.com/deepfounder-ai/castor/main/install.sh | bash
• Windows：git clone https://github.com/deepfounder-ai/castor.git && cd castor && setup.bat
• 手动安装：克隆仓库→创建虚拟环境→安装依赖→验证

运行命令

• castor：终端聊天
• castor --web：Web UI（http://localhost:7860）
• castor --doctor：诊断检查

安全隐私

• 数据主权：所有数据保留在用户基础设施，支持完全离线运行
• 访问控制：API密钥认证、线程隔离、工具权限配置
• 审计能力：完整对话历史、工具调用日志、合规报告导出

社区资源

• Telegram社区：https://t.me/castor_ai
• GitHub Issues：问题反馈与功能请求
• 文档：docs/README.md

Castor代表了企业级AI代理的重要方向：在保障数据主权的前提下，提供与商业SaaS相媲美的功能体验。其模块化设计、多LLM支持、硬件集成能力，特别适合合规要求高、数据敏感或需物理设备交互的企业。对于希望将AI从实验升级为生产工具的团队，Castor是务实且可扩展的选择。