大型语言模型算法应用实践：从基础到进阶的完整教程集

本项目是由pmarcis维护的GitHub开源代码仓库（链接：https://github.com/pmarcis/en-llm-lecture-examples，发布时间2026年6月9日），提供一套涵盖文本生成、问答系统、文本分类、工具调用和RAG等LLM核心应用场景的Jupyter Notebook教程。教程使用OpenAI Python库和vLLM本地部署，既支持云端API快速原型验证，也可本地部署处理隐私或成本敏感场景。核心目标是展示LLM的算法级应用，而非简单API调用。

该项目专为教育和演示目的设计，聚焦LLM的算法化交互方式。其独特之处在于深入探讨如何以算法化方式与LLM交互，覆盖从基础文本生成到高级结构化输出和工具调用的完整技术栈。部署方面，支持OpenAI云端API和vLLM本地部署，满足不同场景需求（快速验证 vs 隐私/成本敏感生产）。

仓库包含9个Jupyter Notebook，覆盖以下关键领域：

1. 文本生成与评分：基础生成+对数概率质量评估；
2. 对话模板应用：针对指令微调模型的聊天模板使用；
3. 问答系统：基础常识问答+上下文提示工程问答；
4. 文本分类与结构化输出：情感分析、NER等任务的结构化结果输出；
5. 提示词工程：精确指令的重要性对比实验；
6. 安全防护：越狱攻击、提示注入等风险及缓解技术；
7. 工具调用：LLM调用外部工具（计算器、搜索引擎等）；
8. RAG入门：用LangChain实现简单检索增强生成系统。

运行示例需满足：

• Python 3.10+（支持异步编程和类型提示）；
• Jupyter Notebook/Lab（交互式环境）；
• vLLM API端点（支持本地部署Gemma3或GPT-OSS等，注意工具调用需模型支持：GPT-OSS支持，Gemma3不支持）；
• 网络连接（下载依赖和模型）。

本教程对以下人群价值显著：

• AI应用开发者：从概念到实现的完整代码参考，快速掌握核心技术；
• 机器学习工程师：深入理解LLM算法级交互（概率评分、结构化输出控制等）；
• 技术团队负责人：可作为内部培训材料，统一团队技术认知；
• 学术研究者：提供可复现实验环境，便于LLM行为研究和算法改进。

本项目的关键收获包括：

1. 算法思维：将LLM视为可编程组件而非简单聊天接口；
2. 安全意识：理解LLM应用的安全挑战（越狱、提示注入）及防护策略；
3. 工程实践：掌握从本地部署到生产集成的完整技术链路；
4. 扩展能力：通过工具调用和RAG扩展LLM能力边界。 该项目不仅是代码示例，更是工程化使用LLM的完整指南。