《Hands-On Large Language Models》实践代码库：从理论到应用的完整学习路径

这个开源代码库是Jay Alammar和Maarten Grootendorst合著书籍的配套实现，涵盖从Transformer架构基础到高级应用（如微调、RAG等）的全方位LLM技术实践，旨在弥合理论与实践鸿沟，适合不同层次学习者掌握核心技能。

ChatGPT爆发后，LLM技术成为AI从业者核心技能，但理论与实践存在鸿沟。Jay Alammar（Transformer可视化博客知名作者）与Maarten Grootendorst（NLP开源项目维护者）合著书籍及配套代码库，确保理论深度与实践价值。

代码库按书籍章节组织，涵盖Transformer架构、词嵌入、文本生成、模型微调、提示工程、RAG等核心主题，包含推理示例与前沿技术，适合初学者到资深开发者。

1. Transformer架构：实现自注意力、多头注意力、位置编码等核心组件；2. 词嵌入：展示预训练向量与上下文嵌入（如BERT/GPT）；3. 文本生成：GPT类模型续写与对话系统，含温度采样等策略；4. 微调：Hugging Face库的完整流程；5. RAG：外部知识库结合模型解决幻觉问题。

具备深度学习基础者可直接选感兴趣章节（如RAG/微调）；初学者建议按章节循序渐进。每个示例配详细注释，可单独运行notebook观察结果，模块化设计提升灵活性。