SilicaCluster：将安卓设备变成去中心化AI节点的开源方案\n\n## 项目背景\n\n随着大语言模型（LLM）能力的快速发展，用户对AI服务的隐私担忧也日益增加。主流AI服务通常要求将数据上传至云端，这不仅涉及隐私风险，还面临服务中断、审查和供应商锁定的隐患。SilicaCluster应运而生，它是一款开源的安卓应用，旨在将普通移动设备转变为去中心化AI网络的节点，让用户真正掌控自己的AI基础设施。\n\n## 核心概念\n\nSilicaCluster的核心理念是"边缘智能"——利用闲置的移动设备算力，构建一个私有、分布式的AI推理网络。用户既可以在单台手机上运行轻量级模型，也可以将多台设备组网，实现负载均衡的集群推理。\n\n## 主要功能特性\n\n### 1. Hacker风格界面设计\n\n应用采用Jetpack Compose构建，呈现独特的"Hacker Style"视觉风格，配备GlassCard半透明边框和HackerButton元素。界面包含：\n- 设置中心：配置模型、选择网桥、切换工作模式、管理集群\n- 活动终端：实时日志监控用户活动、系统状态、网桥日志和引擎稳定性（isLlamaReady）\n\n### 2. 分布式集群与推理\n\nSilicaCluster支持将多台设备连接成分布式集群，共同承担重负载AI任务：\n- 集群地图与网络扫描器：扫描本地网络发现并连接其他工作节点\n- 节点管理器：实时跟踪连接节点状态（ONLINE、UNREACHABLE、VERIFYING）\n- 硬件遥测：内置TelemetryServer监控Leader和Worker节点的CPU核心数、分配线程、总/可用RAM、电池温度，防止推理过程中过热\n\n### 3. 内置模型下载器\n\n应用包含专门的ModelDownloader，原生支持.gguf格式：\n- 支持通过URL添加自定义模型\n- 提供按手机能力优化的精选模型目录\n\n模型分级：\n- Nano/Lite：Danube 3 500M、Qwen 2.5 0.5B、Llama 3.2 1B\n- Efficient/Standard：Gemma 2 2B、Llama 3.2 3B、Phi-3.5 Mini、Qwen 2.5 Coder 3B\n- Power/Elite：Llama 3.1 8B、Mistral Nemo 12B（专为集群环境设计）\n\n### 4. API网关与安全桥接\n\n系统运行基于Ktor的本地ApiGatewayServer，处理分布式请求，支持最长10分钟超时。为远程访问本地AI，应用集成多种安全互联网桥接：\n- Cloudflare（免费或Token）\n- Ngrok（Auth Token）\n- Tailscale（Auth Key）\n\nAPI密钥管理器生成并存储基于UUID的唯一密钥，保护网关免受未授权访问。\n\n### 5. 后台执行\n\n核心服务器和集群逻辑在专门的SilicaService中运行，确保AI节点在后台持续运行，即使用户切换应用或锁屏也不会中断。\n\n## 技术亮点\n\n- 开源协议：AGPLv3，保证代码自由和透明\n- 本地优先：所有推理在设备端完成，数据不出本地\n- 灵活组网：支持局域网直连和互联网隧道\n- 硬件感知：实时监控防止设备过热\n- 模型生态：支持主流开源GGUF模型\n\n## 使用场景\n\nSilicaCluster适合：\n- 对隐私极度敏感，不愿将数据发送给第三方AI服务的用户\n- 拥有多台旧安卓设备，希望充分利用闲置算力的技术爱好者\n- 需要在无网络环境下运行AI的野外作业、应急通信等场景\n- 希望学习和实验边缘计算、分布式AI的学生和研究者\n\n## 项目意义\n\nSilicaCluster代表了AI民主化的一种尝试。它证明了即使在没有高端GPU或云服务的情况下，普通移动设备也能参与构建有用的AI基础设施。这种去中心化的思路不仅降低了AI使用门槛，更重要的是将数据控制权交还给用户，为AI应用的未来发展提供了一种全新的可能性。