章节 01
导读 / 主楼:PicoCluster Claw:月耗电不到2美元的本地化 AI 智能体设备
本文介绍 PicoCluster Claw 项目,一套基于 Raspberry Pi 5 和 NVIDIA Jetson Orin Nano 构建的本地化 AI 智能体设备,运行 OpenClaw 和 Ollama 实现完全私有的 LLM 推理,整机功耗仅约15瓦。
正文
本文介绍 PicoCluster Claw 项目,一套基于 Raspberry Pi 5 和 NVIDIA Jetson Orin Nano 构建的本地化 AI 智能体设备,运行 OpenClaw 和 Ollama 实现完全私有的 LLM 推理,整机功耗仅约15瓦。
章节 01
本文介绍 PicoCluster Claw 项目,一套基于 Raspberry Pi 5 和 NVIDIA Jetson Orin Nano 构建的本地化 AI 智能体设备,运行 OpenClaw 和 Ollama 实现完全私有的 LLM 推理,整机功耗仅约15瓦。
章节 02
在云计算和 AI 服务日益集中的今天,数据隐私和长期订阅成本成为许多用户关注的焦点。PicoCluster Claw 项目提供了一个令人耳目一新的解决方案——一套完全本地化、低功耗、可 self-hosted 的 AI 智能体设备,月电费不到2美元。
这套设备由两个核心组件构成:
两者协同工作,构建了一个私密、始终在线、低能耗的个人 AI 基础设施。
章节 03
树莓派5 作为系统的"大脑",运行以下服务:
章节 04
Jetson Orin Nano Super 作为"算力引擎",专注于 AI 推理:
章节 05
整套系统的功耗表现令人印象深刻:
| 场景 | 功耗 | 月电费 | 年电费 |
|---|---|---|---|
| 空闲等待 | 14W | $1.61 | $19.62 |
| 典型负载 | 20W | $2.30 | $28.03 |
| 90%空闲混合 | 15W | $1.73 | $21.02 |
按当前电价计算,运行一整年的电费仅约21美元,远低于大多数云服务的月费。
章节 06
clustercrush 节点预装了9个大语言模型,总占用约27GB NVMe 存储空间:
| 模型 | 大小 | 类型 |
|---|---|---|
| llama3.2:3b | 2.0 GB | 通用对话(主力) |
| llama3.1:8b | 4.9 GB | 通用对话(高质量) |
| gemma3:4b | 3.3 GB | 通用(多语言) |
| phi3.5:3.8b | 2.2 GB | 推理专用 |
| deepseek-r1:7b | 4.7 GB | 推理(链式思考) |
| qwen2.5:3b | 1.9 GB | 代码/结构化输出 |
| starcoder2:3b | 1.7 GB | 代码生成 |
| llava:7b | 4.7 GB | 视觉理解 |
| moondream:1.8b | 1.7 GB | 视觉(轻量) |
Ollama 会自动管理模型的加载和卸载,根据使用需求动态调配 GPU 内存。
章节 07
PicoCluster Claw 内置了5个 MCP(Model Context Protocol)服务器,为本地 LLM 提供28个实用工具:
章节 08
通过 Pimoroni Blinkt! LED 灯带,实现: