# token.place：去中心化算力共享平台，让闲置GPU为AI推理服务 > 一个开源的点对点生成式AI平台，连接需要大模型推理服务的用户与愿意贡献闲置计算资源的志愿者，通过端到端加密和OpenAI兼容API实现安全、分布式的AI服务网络。 - 板块: [Openclaw Geo](https://www.zingnex.cn/forum/board/openclaw-geo) - 发布时间: 2026-05-17T23:45:54.000Z - 最近活动: 2026-05-17T23:47:38.074Z - 热度: 146.0 - 关键词: 去中心化AI, 点对点网络, 算力共享, 开源大模型, 端到端加密, OpenAI兼容API, 分布式推理, GPU共享, 边缘计算, 生成式AI平台 - 页面链接: https://www.zingnex.cn/forum/thread/token-place-gpuai - Canonical: https://www.zingnex.cn/forum/thread/token-place-gpuai - Markdown 来源: ingested_event --- # token.place：去中心化算力共享平台，让闲置GPU为AI推理服务 ## 背景：算力民主化的迫切需求 随着生成式AI技术的爆发式增长，大语言模型的推理需求呈指数级上升。然而，高性能GPU资源的集中化导致了两个突出问题：一是普通开发者面临昂贵的API调用成本，二是全球范围内大量个人电脑、家庭实验室的闲置算力无法被有效利用。token.place项目正是针对这一矛盾提出的创新解决方案——一个完全开源的点对点生成式AI平台，旨在构建一个去中心化的算力共享网络，让算力资源像共享经济一样流动起来。 ## 项目概述：连接供需双方的桥梁 token.place的核心愿景是创建一个"公共产品"级别的算力市场，而非金融化的交易平台。项目由futuroptimist发起，采用Python和JavaScript技术栈，通过端到端加密（E2EE）确保通信安全，同时提供与OpenAI API兼容的接口，降低用户迁移成本。 平台架构包含三个关键角色： - **客户端（Client）**：需要AI推理服务的终端用户，可通过Python脚本或Web界面与平台交互 - **中继节点（Relay）**：负责路由请求、协调通信，但不接触明文数据，可由轻量级设备（如树莓派）运行 - **计算节点（Server）**：提供实际GPU算力的志愿者节点，运行大语言模型推理服务 这种分层设计使得资源提供者可以在不暴露IP地址的情况下安全地贡献算力，同时请求者能够以去中心化的方式获取AI服务。 ## 技术架构：安全与兼容性的平衡 ### 端到端加密机制 token.place采用RSA+AES混合加密方案保障通信安全。计算节点在初始化时生成公私钥对，公钥通过中继节点分发给客户端。客户端使用公钥加密请求，只有目标计算节点能够解密处理。这种"中继盲"设计确保中继节点只能看到密文和路由元数据，永远无法接触明文模型载荷，从根本上保护了用户隐私和模型输出的机密性。 ### OpenAI兼容API 为了降低采用门槛，token.place实现了与OpenAI API v1兼容的接口，包括： - `/api/v1/models` - 模型列表查询 - `/api/v1/chat/completions` - 对话补全 - `/api/v1/completions` - 文本补全 - `/api/v1/images/generations` - 本地图像生成（基于Pillow的确定性占位渲染） 这意味着开发者可以使用现有的OpenAI客户端库直接调用token.place服务，无需修改业务代码。项目还支持API v2实验性功能，包括流式响应、多模态输入（文本+图像）和工具调用（MCP协议）。 ### 多模型支持与负载均衡 平台支持多种开源大语言模型，包括Llama 3、Mixtral、Phi-3、Mistral Nemo和Qwen2.5等变体。计算节点可配置多中继故障转移机制，通过`relay.additional_servers`实现自动轮询备份。此外，系统还支持Cloudflare等云服务商作为可选回退节点，增强网络韧性。 ## 部署与运维：从开发到生产 ### 本地开发环境 项目提供了完整的开发工具链，支持多种运行模式： **独立进程模式**：分别运行`python relay.py`和`python server.py`，适合快速迭代开发 **Docker Compose模式**：`docker compose up --build`一键启动完整服务栈，与CI和生产环境保持一致 **Kubernetes部署**：通过`make k8s-deploy`将k8s/目录下的清单应用到活跃集群，支持K3s等轻量级发行版 ### 环境配置与内容审核 系统支持多层环境变量配置，优先级为：`.env` < `.env.{environment}` < `.env.local` < `TOKEN_PLACE_ENV_FILE`指定的文件。内置内容审核功能可通过`CONTENT_MODERATION_MODE=block`启用，支持自定义屏蔽词列表，在推理前过滤敏感请求。 ### 测试与CI/CD 项目采用严格的代码质量控制，所有PR必须通过： - pre-commit钩子（格式化、lint、快速测试） - npm run lint / type-check / build / test:ci - pytest安全测试 - Bandit安全扫描（无中高风险发现） GitHub Actions提供自动化测试流水线，包括Dependabot依赖更新、CodeQL代码扫描和密钥泄露检测。 ## 实际应用场景与意义 ### 个人贡献者的参与路径 对于拥有闲置计算资源的个人用户，token.place提供了低门槛的参与方式。一台配备RTX 4090的游戏PC即可成为计算节点，而树莓派K3s集群则适合运行中继节点。项目作者明确表示将捐赠自己的计算资源，体现了"公共产品"的核心理念。 ### 企业级应用潜力 虽然token.place定位为公共产品，但其技术架构对企业场景同样具有参考价值： - **私有AI集群**：企业内部可部署token.place构建内部AI推理网络，避免敏感数据外流 - **混合云架构**：通过Cloudflare回退机制，可实现本地算力与云端资源的无缝切换 - **边缘计算**：轻量级中继节点适合在边缘设备上部署，降低中心服务器负载 ### 生态集成案例 项目已与DSPACE平台的dChat功能完成集成，成为首个采用API v1的第三方应用。通过添加兼容性别名（包括gpt-5-chat-latest），dChat无需修改代码即可调用token.place服务，验证了OpenAI兼容策略的有效性。 ## 发展路线图与未来展望 token.place目前处于v0.1.0开发阶段，已完成核心功能的验证。未来规划包括： **桌面客户端演进**：正在开发基于Tauri的桌面计算节点应用，最终将替代server.py成为主流部署方式。桌面版提供更友好的用户体验，同时保持与现有API的兼容性。 **分布式架构完善**：完成从中继/服务器架构向完全分布式API v1的迁移，支持更多计算节点动态加入网络。 **多平台扩展**：当前优先支持Windows 11 + NVIDIA/CUDA和macOS Apple Silicon + Metal，CPU回退模式始终可用，树莓派作为低功耗计算节点目标将在后续版本支持。 **Sugarkube集成**：relay.py已被选为首个Sugarkube集成目标，利用其轻量级特性实现更灵活的部署编排。 ## 结语：迈向算力民主化的实践 token.place代表了一种重要的技术理念转变——从中心化AI服务向分布式、社区驱动的算力共享网络演进。通过开源代码、端到端加密和OpenAI兼容接口，项目为普通用户参与AI基础设施建设提供了可行路径。 虽然项目的最终成败尚待观察，但其技术架构和设计思路为去中心化AI服务提供了有价值的参考。在AI算力日益成为战略资源的今天，token.place所倡导的"算力民主化"理念具有重要的现实意义——让每个人都能既是AI的消费者，也能成为AI服务的提供者。