Zing 论坛

正文

SilicaCluster:将安卓设备变成去中心化AI节点的开源方案

SilicaCluster是一款AGPLv3开源应用,可将安卓设备转变为去中心化本地AI基础设施的节点。它支持单机运行LLM或多设备集群分布式推理,提供Hacker风格UI、硬件遥测和多种安全隧道桥接。

去中心化AI边缘计算安卓LLM移动AI集群推理私有化开源本地模型隐私保护
发布时间 2026/04/22 08:10最近活动 2026/04/22 08:19预计阅读 3 分钟
SilicaCluster:将安卓设备变成去中心化AI节点的开源方案
1

章节 01

导读 / 主楼:SilicaCluster:将安卓设备变成去中心化AI节点的开源方案

SilicaCluster:将安卓设备变成去中心化AI节点的开源方案\n\n## 项目背景\n\n随着大语言模型(LLM)能力的快速发展,用户对AI服务的隐私担忧也日益增加。主流AI服务通常要求将数据上传至云端,这不仅涉及隐私风险,还面临服务中断、审查和供应商锁定的隐患。SilicaCluster应运而生,它是一款开源的安卓应用,旨在将普通移动设备转变为去中心化AI网络的节点,让用户真正掌控自己的AI基础设施。\n\n## 核心概念\n\nSilicaCluster的核心理念是"边缘智能"——利用闲置的移动设备算力,构建一个私有、分布式的AI推理网络。用户既可以在单台手机上运行轻量级模型,也可以将多台设备组网,实现负载均衡的集群推理。\n\n## 主要功能特性\n\n### 1. Hacker风格界面设计\n\n应用采用Jetpack Compose构建,呈现独特的"Hacker Style"视觉风格,配备GlassCard半透明边框和HackerButton元素。界面包含:\n- 设置中心:配置模型、选择网桥、切换工作模式、管理集群\n- 活动终端:实时日志监控用户活动、系统状态、网桥日志和引擎稳定性(isLlamaReady)\n\n### 2. 分布式集群与推理\n\nSilicaCluster支持将多台设备连接成分布式集群,共同承担重负载AI任务:\n- 集群地图与网络扫描器:扫描本地网络发现并连接其他工作节点\n- 节点管理器:实时跟踪连接节点状态(ONLINE、UNREACHABLE、VERIFYING)\n- 硬件遥测:内置TelemetryServer监控Leader和Worker节点的CPU核心数、分配线程、总/可用RAM、电池温度,防止推理过程中过热\n\n### 3. 内置模型下载器\n\n应用包含专门的ModelDownloader,原生支持.gguf格式:\n- 支持通过URL添加自定义模型\n- 提供按手机能力优化的精选模型目录\n\n模型分级:\n- Nano/Lite:Danube 3 500M、Qwen 2.5 0.5B、Llama 3.2 1B\n- Efficient/Standard:Gemma 2 2B、Llama 3.2 3B、Phi-3.5 Mini、Qwen 2.5 Coder 3B\n- Power/Elite:Llama 3.1 8B、Mistral Nemo 12B(专为集群环境设计)\n\n### 4. API网关与安全桥接\n\n系统运行基于Ktor的本地ApiGatewayServer,处理分布式请求,支持最长10分钟超时。为远程访问本地AI,应用集成多种安全互联网桥接:\n- Cloudflare(免费或Token)\n- Ngrok(Auth Token)\n- Tailscale(Auth Key)\n\nAPI密钥管理器生成并存储基于UUID的唯一密钥,保护网关免受未授权访问。\n\n### 5. 后台执行\n\n核心服务器和集群逻辑在专门的SilicaService中运行,确保AI节点在后台持续运行,即使用户切换应用或锁屏也不会中断。\n\n## 技术亮点\n\n- 开源协议:AGPLv3,保证代码自由和透明\n- 本地优先:所有推理在设备端完成,数据不出本地\n- 灵活组网:支持局域网直连和互联网隧道\n- 硬件感知:实时监控防止设备过热\n- 模型生态:支持主流开源GGUF模型\n\n## 使用场景\n\nSilicaCluster适合:\n- 对隐私极度敏感,不愿将数据发送给第三方AI服务的用户\n- 拥有多台旧安卓设备,希望充分利用闲置算力的技术爱好者\n- 需要在无网络环境下运行AI的野外作业、应急通信等场景\n- 希望学习和实验边缘计算、分布式AI的学生和研究者\n\n## 项目意义\n\nSilicaCluster代表了AI民主化的一种尝试。它证明了即使在没有高端GPU或云服务的情况下,普通移动设备也能参与构建有用的AI基础设施。这种去中心化的思路不仅降低了AI使用门槛,更重要的是将数据控制权交还给用户,为AI应用的未来发展提供了一种全新的可能性。