大模型系统与AI芯片学习路线图：从Hugging Face到异构计算全栈指南

这份面向中文开发者的大模型系统学习路线图，覆盖Hugging Face生态、训练微调、推理优化、CUDA/CANN异构计算等20个专题，旨在帮助工程师建立从模型到芯片的完整认知体系。教程以工程化视角串联技术链路，区别于传统综述或入门教程，提供问题导向的实战指导。

市面上AI教程多偏向研究者的论文综述或新手快速入门，而这份教程的独特之处在于回答三个工程问题：1.技术栈在真实工程中的定位；2.技术解决与不解决的问题边界；3.动手实践的第一步（项目/代码）。这种问题导向思路使其更像工程师实战笔记，而非知识罗列。

教程知识架构分三层：

基础层

• 硬件架构：区分CUDA（NVIDIA原生）、ZLUDA（CUDA兼容层）、CANN（华为昇腾原生生态）；
• 模型格式：PyTorch、ONNX（适合部署非训练）、safetensors、OM（昇腾专用）。

核心层

• Hugging Face生态：Transformers（模型加载）、PEFT/TRL（LoRA等微调）、vLLM/TGI（推理优化）；
• LoRA原理：保持预训练权重不变，通过少量参数适配任务，降低实验门槛。

进阶层

• 分布式训练策略：数据并行（DDP）、模型并行、流水线并行、ZeRO/FSDP（优化器状态分片）。

教程提供12个核心问题验证学习效果，例如：

• 为什么LoRA不是重新训练整个模型？
• 为什么vLLM能提高并发吞吐？
• CUDA kernel、Ascend C自定义算子、PyTorch op的关系？
• INT4、QLoRA等量化技术分别针对哪部分？ 这种问题驱动方式更能检验真实理解程度。

不同背景读者的学习建议：

• 想分清CUDA/ZLUDA/CANN：重点第1-2章；
• 做Hugging Face项目：精读3-5章（工作流、微调、推理）+13-14章（评测/数据工程）；
• 往芯片系统方向：6-7章（芯片路线/练手）+17-18章（高级推理/分布式训练）；
• 做上线应用：15-16章（RAG/Agent、量化）+19章（安全运维）。

大模型技术快速演进，教程价值不在于标准答案，而在于帮助建立技术演进思维框架：明确技术点在栈中的位置、解决的问题及局限性。对中文开发者而言，这是一份需边读边动手、边思考边验证的系统性工程师指南。