MARLIN：用多智能体博弈强化学习实现可持续的大模型推理服务

谷歌研究团队提出MARLIN框架，通过多智能体博弈强化学习同时优化大模型推理的延迟、碳排放、水耗和能耗，在保持首token时间（TTFT）降低18%的同时，实现碳排放减少33%、水耗降低43%、能耗节省11%，为解决LLM推理阶段的环境成本问题提供了创新方案。

LLM推理请求占据大模型生命周期能耗的90%，远超训练阶段。随着模型进入生产环境，推理服务的环境足迹快速累积，其隐形污染来自直接电力消耗、数据中心冷却用水、发电碳排放及电力传输损耗，成为行业亟待解决的核心挑战。

MARLIN将推理调度建模为多方博弈过程，不同优化目标（延迟、碳排放、水耗、能耗）作为智能体参与博弈。框架创新性地同时优化TTFT、碳排放量、水消耗量、能源成本四个指标，通过纳什均衡寻找帕累托最优解，并利用强化学习适应实时变化的电力碳强度、水资源稀缺性及工作负载特性。

在真实云数据中心环境评估中，MARLIN对比当前最先进框架取得以下改进：

指标	改进幅度
首token时间（TTFT）	降低18%
碳排放	减少33%
水消耗	降低43%
能源成本	节省11%
这些改进未牺牲服务质量，打破了“绿色计算必然牺牲性能”的迷思。

MARLIN的成功源于三大技术洞察：1.时空感知调度：捕捉数据中心环境影响的时空异质性，实现智能请求路由；2.多智能体协作：通过通信机制共享信息，避免局部最优；3.在线学习适应：无需离线重训练即可应对变化的工作负载和环境条件。

MARLIN为云服务商提供可持续发展路径，帮助企业降低API成本和环境足迹，支撑AI行业绿色转型。未来将扩展到更多环境指标（如电子废弃物）、结合可再生能源预测调度、探索联邦学习场景下的分布式优化，相关代码已开源。