Carbon-Taxed Transformers：借鉴碳税理念的绿色模型压缩框架

本文提出Carbon-Taxed Transformers(CTT)，一种借鉴经济学碳税原理的系统化多架构压缩流程，旨在解决软件工程领域AI的可持续性危机。该框架在软件工程任务中实现最高49倍内存缩减、81%碳排放降低，同时保持98%的克隆检测准确率，为平衡模型效率、环境效益与精度提供新方案。

大型语言模型(LLM)在软件工程领域应用快速增长，涵盖代码克隆检测、摘要生成、自动化合成等任务，但存在体积庞大、部署缓慢、内存消耗大、碳足迹惊人等问题，威胁AI驱动软件工程的可扩展性、可访问性及长期环境可持续性，需将效率和环境成本作为一等设计约束。

CTT框架灵感来源于经济学碳税原理，通过以下映射实现系统化压缩：1.计算碳税：对架构层面低效设计征税；2.压缩奖励：对部署就绪的压缩方案给予奖励；3.系统化排序：按压缩效率组织多阶段流程，关注整个压缩链的资源消耗效率。

为验证CTT普适性，评估覆盖三个软件工程核心任务：代码克隆检测、代码摘要生成、代码生成；同时涵盖三种主流架构：仅编码器、编码器-解码器、仅解码器，确保结论的稳健性和普适性。

CTT在多维度表现卓越：内存效率最高49倍缩减；推理速度显著提升（克隆检测8-10倍、摘要生成3倍、代码生成4-7倍）；碳排放削减81%；精度保持良好（克隆检测约98%准确率、摘要生成约89%性能、代码生成91%文本指标和68%pass@1）。

消融研究表明：压缩阶段顺序对效果影响显著，CTT优化排序策略以最大化协同效应；各压缩组件需组合使用，单一技术无法达到整体效果，凸显系统化方法的价值。

CTT为负责任AI在软件工程领域提供可行路径，其将环境成本纳入设计决策的理念可扩展至更广泛AI系统。工业界可直接应用该压缩蓝图，研究者可探索经济学、环境科学与计算机科学的跨学科融合。未来需重视性能-效率-可持续性三维权衡，树立优秀AI系统既聪明又绿色的设计伦理。