ATLAS：首个面向3D-DRAM大语言模型加速器的全栈性能评估框架

ATLAS是首个经过真实硅片验证的3D-DRAM大语言模型加速器全栈仿真框架，填补了该领域缺乏公开性能评估工具的空白。它基于商业化3D-DRAM技术，提供开放、通用、高精度的性能分析平台，支持任意推理场景，助力研究人员进行设计空间探索，推动3D-DRAM加速器技术的发展与生态形成。

大语言模型推理（尤其是解码阶段）内存密集，带宽成为关键瓶颈；3D-DRAM因高带宽密度和能效比成为理想选择。但当前3D-DRAM加速器依赖闭源评估工具，建模碎片化，结果难以比较，阻碍技术进步。

ATLAS基于已商业化的3D-DRAM硅片特性构建，引入统一抽象机制：系统架构层面定义标准化组件接口与互联模型，编程原语层面提供通用计算存储操作抽象，屏蔽硬件差异，支持不同规模LLM及单用户低延迟、高吞吐批处理等场景。

ATLAS经硅片验证，仿真误差≤8.57%，与实测性能相关系数达97.26%-99.96%。设计空间探索发现：内存带宽与计算单元配比存在最优区间，不同批处理大小需调整3D-DRAM层级调度策略以发挥高带宽优势。

研究团队将开源ATLAS框架，打破闭源壁垒，让更多研究者参与；通过社区力量迭代完善功能；建立统一评估基准，促进公平竞争与合作，推动领域成熟。

ATLAS标志3D-DRAM LLM加速器研究进入新阶段，从依赖闭源工具到开放平台，从碎片化建模到统一抽象，从猜测性设计到数据驱动优化，将推动技术在性能、能效、成本间找到更优平衡，为LLM普惠应用铺路。