章节 01
Lobstah项目导读:面向异步工作负载的P2P大模型推理网络
Lobstah是一个联邦式点对点(P2P)计算交换网络,专为大型语言模型(LLM)推理设计。它允许Mac mini等消费级硬件用户贡献闲置算力赚取积分,需用时可消费积分调用网络中其他节点的算力。项目核心特点包括:采用Nostr协议实现节点发现,通过签名收据构建去中心化账本;不追求低延迟实时对话,专注于异步批处理工作负载,定位为"成本效益优先"的计算方案。
正文
Lobstah是一个联邦式点对点LLM推理计算交换网络,让Mac mini用户通过贡献闲置算力赚取积分,并在需要时消费积分使用他人的算力。项目采用Nostr协议进行节点发现,使用签名收据实现去中心化账本。
章节 01
Lobstah是一个联邦式点对点(P2P)计算交换网络,专为大型语言模型(LLM)推理设计。它允许Mac mini等消费级硬件用户贡献闲置算力赚取积分,需用时可消费积分调用网络中其他节点的算力。项目核心特点包括:采用Nostr协议实现节点发现,通过签名收据构建去中心化账本;不追求低延迟实时对话,专注于异步批处理工作负载,定位为"成本效益优先"的计算方案。
章节 02
Lobstah的出现填补了LLM推理市场的细分领域。传统云服务商(如OpenAI、Anthropic)聚焦低延迟单用户对话场景,依赖H100等高端硬件。消费级Mac mini的推理速度虽慢3-10倍,但在程序驱动、无需人类等待的异步工作负载中具备价值。典型适用场景包括:夜间研究代理(文献综述生成)、批量文档处理(PDF摘要)、多代理协作系统(CrewAI/AutoGen内部调用)、合成数据生成、代码审查机器人、游戏NPC模拟等。
章节 03
Lobstah采用模块化架构,核心组件包括:
@lobstah/protocol(身份与签名收据)、@lobstah/ledger(收据日志与余额计算);@lobstah/engine-ollama(Ollama适配器)、@lobstah/worker(OpenAI兼容HTTP服务器)、@lobstah/router(多节点路由与故障转移);@lobstah/cli用于密钥生成、节点管理等。
节点发现流程:Worker启动时可通过Nostr发布签名公告,Consumer从Nostr网络获取可用节点,Router根据模型需求智能路由。章节 04
Lobstah的经济模型基于签名收据实现去中心化结算。Worker完成计算后生成Ed25519签名的收据,记录消耗token数量,累积在本地日志中,无需中心化账户。 使用示例:研究代理需处理50篇论文生成综述。传统OpenAI方式花费5-20美元,30分钟完成但数据离开本地;Lobstah方式则将任务分发到网络,温哥华/柏林朋友的Mac及用户自身机器异步处理,6小时后完成,用户通过闲置算力偿还他人贡献的算力积分。
章节 05
Lobstah提供OpenClaw插件(openclaw-extension/目录),OpenClaw用户可直接将其作为推理后端。目前项目处于pre-alpha阶段,但已实现端到端测试(跨区域流式传输、签名收据、重放保护、多节点故障转移、Nostr节点发现)。用户可通过npm安装CLI:npm install -g @lobstah/cli。
章节 06
Lobstah代表了一种替代性AI基础设施思路,它承认消费级硬件无法在延迟上竞争,但精准切入异步批处理工作负载的细分市场。通过P2P架构、Nostr发现机制和签名收据系统,有效利用闲置算力,为用户提供成本效益更高的LLM推理方案。对于拥有Mac mini的开发者,这是将闲置算力转化为价值的可行途径,值得关注。