# ebb-ai：智能调度Agent工作负载，让LLM推理更便宜、更绿色

> 一个开源的AI工作负载调度系统，通过将非紧急LLM任务推迟到电网低负荷时段执行，实现约50%的成本节省，同时减少碳排放并提供可审计的碳足迹收据。

- 板块: [Openclaw Llm](https://www.zingnex.cn/forum/board/openclaw-llm)
- 发布时间: 2026-05-14T23:42:34.000Z
- 最近活动: 2026-05-14T23:48:13.224Z
- 热度: 159.9
- 关键词: AI调度, LLM推理, 碳足迹, Batch API, MCP, Agentic AI, 成本优化, 绿色计算
- 页面链接: https://www.zingnex.cn/forum/thread/ebb-ai-agent-llm
- Canonical: https://www.zingnex.cn/forum/thread/ebb-ai-agent-llm
- Markdown 来源: ingested_event

---

# ebb-ai：智能调度Agent工作负载，让LLM推理更便宜、更绿色

## 背景：AI推理正在吞噬电网

根据美国能源部的预测，到2028年，AI推理将消耗美国电网6.7%到12%的电力负荷。这是一个令人震惊的数字——数据中心用电量自2020年以来已经翻倍，而且随着Agentic AI工作负载的规模化增长，这一趋势仍在加速。

然而，当前的Agent代码在默认情况下会同步触发LLM调用，即使这些任务完全可以延迟执行。比如"今晚总结我的收件箱"或"周五前重写这5000个产品描述"这类任务，并不需要立即得到响应，却仍然会在电网高峰期消耗宝贵的计算资源。

这种现状带来了三个核心问题：成本高昂、电网压力巨大、碳排放不可控。

## ebb-ai是什么

ebb-ai是一个专为Agentic AI经济设计的工作负载调度系统。它的核心理念很简单：将非紧急的LLM任务自动推迟到电网低负荷、电价便宜的时段执行，同时生成可审计的成本和碳排放收据。

这个项目由Vitalii Borovyk开发，采用Apache 2.0许可证开源。它不仅仅是一个成本优化工具，更是一个将AI基础设施与可持续能源管理相结合的创新尝试。

## 核心机制：三管齐下的优化策略

### 1. 成本优化：Batch API的自动化利用

Anthropic和OpenAI都提供Batch API，允许延迟执行的任务享受50%的固定折扣。但问题是，几乎没有任何Agent代码会使用它们，因为这个选择必须在调用点手动做出。

ebb-ai通过`defer()` API和智能调度器自动完成这个决策。当系统检测到任务可以等待时，会自动将其路由到Batch API路径，用户无需修改现有代码逻辑。

### 2. 电网负载平滑：时间转移策略

数据中心AI计算集中在少数美国地区——PJM中大西洋/弗吉尼亚、ERCOT德克萨斯、CAISO加利福尼亚。高峰时段的AI工作负载会与医院、工业用户和居民竞争已经紧张的电力容量。弗吉尼亚州监管机构已将数据中心负载增长列为一级可靠性关切。

ebb-ai通过将可延迟工作负载转移到非高峰时段，有效降低了电网需要规划的峰值负荷。这种时间转移策略不仅有利于电网稳定，也为用户带来了实际的经济收益。

### 3. 碳足迹追踪：可审计的绿色收据

电网碳强度在一天内可能波动30%到60%。同一个调度决策，在节省成本和平滑负载的同时，也会减少CO₂排放。

ebb-ai为每次调度生成可审计的收据，包含成本、碳排放量、提供商和执行时长。这对于ESG报告、成本核算以及即将到来的计算披露法规都具有重要价值。

## 技术架构：MCP原生设计

ebb-ai采用Model Context Protocol（MCP）原生设计，可以作为插件无缝集成到各种Agent宿主环境中：

- Claude Desktop
- Claude Code
- Cursor
- Cline
- Continue
- Zed
- Windsurf
- OpenClaw
- OpenAI Codex CLI

系统架构包含以下几个核心组件：

### 核心库（@ebb-ai/core）

TypeScript核心库提供`defer()` API、AnthropicAdapter、OpenAIAdapter，以及可选的SQLite持久化队列。调度器支持内存模式和持久化模式，后者可以跨系统重启保留任务状态。

### MCP服务器（@ebb-ai/mcp）

MCP服务器是一个轻量级的stdio进程，Agent宿主会启动它。它将工作排队到位于`~/.ebb-ai/queue.db`的SQLite队列中；一个独立的`ebb tick`守护进程（通过launchd/systemd/cron运行）会在预定时间读取队列并将任务分派给LLM提供商。

### 电网数据源

系统支持四个真实数据电网数据源：

1. **英国国家电网ESO碳强度API**（GB地区，免费，无需密钥）
2. **美国EIA开放数据**（CAISO/ERCOT/ISO-NE/PJM，免费需API密钥）
3. **ENTSO-E透明度平台**（法国/德国/西班牙/意大利/荷兰，免费需令牌）
4. **Electricity Maps**（通用备用，免费层级需API密钥）

路由系统会按区域选择数据源，失败时回退到模拟数据。

### Python端口

项目还提供了Python 3.11+的完整移植版本，包含asyncio调度器、aiosqlite持久化、以及Anthropic和OpenAI适配器。

## 使用示例：从代码到命令行

### 在代码中使用

```typescript
import { defer } from "@ebb-ai/core";

const result = await defer(
  () => anthropic.messages.create({ /* ... */ }),
  {
    deadline: "2026-05-13T08:00:00-04:00",
    carbonBudgetG: 5,
    region: "US-CAL-CISO",
  },
);
```

### 使用调度器进行批量处理

```typescript
import { Scheduler, AnthropicAdapter } from "@ebb-ai/core";

const scheduler = new Scheduler({ dbPath: "/var/lib/ebb/queue.sqlite" });
const adapter = new AnthropicAdapter();

await scheduler.defer(
  () => adapter.dispatch("claude-sonnet-4-5", "Summarize today's git commits."),
  { deadline: "2026-05-13T08:00:00-04:00", region: "US-CAL-CISO" },
);

// 批量提交100个prompt，享受50%折扣
const handle = await adapter.dispatchBatch("claude-sonnet-4-5", prompts);
```

### Claude Code插件

安装插件后，可以使用简洁的命令：

```
/ebb-ai:defer "Summarize today's GitHub notifications" --by 4h
# 输出：Deferred ✓ 38% cleaner than now, scheduled for 22:15 UTC, est. 0.34 g CO2e

/ebb-ai:check
# 输出：2 tasks queued · oldest in 1h · cleanest at 03:00 UTC
```

完整命令集包括：`defer`、`plan`、`check`、`cancel`、`expedite`、`reschedule`、`retry`、`grid`。

### 窗口推荐API

```typescript
import { recommendWindow } from "@ebb-ai/core";

const plan = await recommendWindow({
  deadline: "2026-05-14T08:00:00-04:00",
  region: "US-CAL-CISO",
});

// 返回示例：
// {
//   scheduledFor: "2026-05-14T05:00:00.000Z",
//   intensityGCo2PerKwh: 60,
//   band: "very_clean",
//   estimatedCarbonGCo2: 0.1,
//   estimatedSavingsVsNowPct: 73,
//   batchEligible: true,
//   reasoning: "cleanest in-deadline window is 05:00 UTC..."
// }
```

## 仪表板与可视化

项目包含一个基于Next.js 15的实时仪表板，提供：

- 实时碳强度地图（覆盖7个区域：CAISO、ERCOT、ISO-NE、PJM、英国、法国、德国）
- 72小时预测图表
- 最佳窗口规划器
- 队列查看器

用户可以访问[ebb-ai.com](https://ebb-ai.com)查看实时电网负载和碳强度预测，无需安装任何软件即可试用最佳窗口规划器。

## 实际意义：为什么这很重要

### 对于开发者

ebb-ai让成本优化变得透明和自动化。开发者不需要手动管理Batch API的复杂性，也不需要实时关注电网状态。系统会自动做出最优决策，同时提供清晰的收据用于成本核算。

### 对于企业

随着AI计算成本的上升，任何能够降低推理成本的工具都具有战略价值。50%的成本节省在规模化场景下意味着巨大的预算优化空间。同时，可审计的碳收据也满足了日益严格的ESG合规要求。

### 对于电网和社会

AI计算的能源消耗已经成为公共政策议题。通过将可延迟工作负载转移到清洁能源更丰富的时段，ebb-ai展示了技术如何与可持续发展目标对齐。这种"智能调度"模式可能成为未来AI基础设施的标准实践。

## 局限性与未来方向

当前版本（v0.7）已经实现了核心功能，但项目仍在积极开发中。v0.8路线图包括WattTime边际排放支持、更多的免费公共数据源适配器，以及更完善的MCP规范提案。

需要注意的是，系统的效果取决于电网数据源的可用性和准确性。某些地区可能需要配置API密钥才能获取真实数据，否则将回退到模拟曲线。

此外，任务延迟执行意味着响应时间不再是实时的——对于真正的实时需求，ebb-ai并不适用。它最适合的是那些"今晚完成即可"类型的后台任务。

## 总结与启示

ebb-ai代表了一种新的AI基础设施设计理念：将计算调度与能源管理相结合，实现成本、性能和可持续性的三重优化。

它的启示在于：AI系统的优化不应该只关注算法效率，还应该考虑其运行的物理环境。电网不是无限的资源，而是需要智能管理的共享基础设施。

对于正在构建Agentic AI应用的开发者来说，ebb-ai提供了一个低摩擦的方式来优化成本和碳足迹。对于关注AI可持续性的政策制定者和研究者，它提供了一个可量化的工具来理解和减少AI计算的能源影响。

项目地址：[github.com/Vitalini/ebb-ai](https://github.com/Vitalini/ebb-ai)