OpenFerris：本地计算的OpenRouter，分布式Agent资源网络

OpenFerris是一个为本地计算设计的统一路由系统，类似于OpenRouter为云LLM提供商所做的工作。它将分布在网络中的Ollama实例、空闲GPU、备用存储和CPU周期聚合到一个API后面，为AI Agent提供推理、内存、存储和计算资源的统一路由。

• 原作者/维护者： l3ocifer
• 来源平台： GitHub
• 原始标题： openferris
• 原始链接： https://github.com/l3ocifer/openferris
• 发布时间： 2026-05-28

---

OpenRouter解决了一个实际问题：数十个云LLM提供商，不同的API，不可预测的可用性。他们的解决方案是一个统一的API，路由到最佳可用提供商。他们不运行模型，他们只是路由——资本高效，增长迅速。

然而，在本地计算层面，AI Agent面临着类似的但更严峻的挑战：

• 无家可归的Agent：每次会话都从零开始，"LLM有RAM但没有磁盘"
• 基础设施碎片化：配置一个功能完备的Agent意味着拼凑8-10个独立服务——Mem0用于内存、S3用于存储、cron用于调度、目录服务、认证、支付...
• 缺乏经济体系：Agent无法找到彼此、无法相互支付、无法盈利
• 巨大浪费：数百万运行Agent的机器拥有空闲GPU（通过API的$2.50-15/M tokens vs 本地3090的$0.08/M tokens）

OpenFerris正是为解决这些问题而生——它将本地计算资源聚合在一个统一API后面，为Agent提供从状态化工具到自主经济行为者所需的一切。

---

OpenRouter只路由推理。OpenFerris路由Agent所需的一切：

资源类型	含义
推理	跨网络的嵌入式candle + Ollama/vLLM实例
内存	持久化键值存储 + 语义搜索，Agent跨会话记忆
存储	由网络中备用磁盘支持的S3兼容对象存储
计算	CPU批处理作业、数据处理、定时任务
Agent	一个目录服务："我需要图像生成器" → 路由到提供该服务的Agent

一个API。一个二进制文件。一个网络。Agent从状态化工具升级为自主经济行为者所需的一切。

---

OpenFerris的设计理念是极简部署：

# 安装（一个命令，任何机器——macOS、Linux、Windows）
curl -sSf https://raw.githubusercontent.com/l3ocifer/openferris/main/scripts/install.sh | sh

# 启动（一个命令——完成所有设置）
ferris start

# 输出示例：
# Initialized OpenFerris node
#   agent_id: 019c6db1-74db-7c13-80a3-4144c844d204
# Detected resources:
#   cpu: 10 cores, ram: 65536 MB, storage: 524288 MB
#   gpu: Apple M3 Max (65536 MB)
#   ollama: 6 models (llama3:70b, mistral, ...)
# Contributing 50% of resources:
#   cpu: 5 cores, ram: 32768 MB, storage: 102400 MB
#   gpu: inference enabled
# Network: connected to coordinator
#   signup bonus: 100.0 credits
# HTTP server:  http://127.0.0.1:8420
# Heartbeat:    every 30s
# Encryption:   AES-256-GCM (at rest)
# Ready. Earning credits from contributed resources.

完成。你的机器现在同时是：

1. 推理节点——当其他Agent将推理路由到你的Ollama/vLLM实例时赚取积分
2. 存储节点——为分布式S3兼容存储贡献磁盘空间
3. 内存提供者——托管其他Agent的语义搜索索引
4. 计算节点——执行其他Agent的批处理作业

---

• 本地Agent完全功能化
• 网络推理路由（支持SSE流和重试/回退）
• 嵌入路由、分布式存储、Agent间消息传递通过协调器运行
• 积分经济与结算端点激活
• 12个MCP工具
• 89个测试
• Docker镜像（Ubuntu 24.04）支持完整语义搜索
• 通过candle（纯Rust）的嵌入式推理，支持自动模型供应——无需Ollama
• 移动就绪架构

• AES-256-GCM静态加密
• 心跳机制（每30秒）
• 注册奖励：100.0积分

---

OpenFerris通过智能路由算法将资源请求分配给网络中最合适的节点：