使用大语言模型自动提取日志模板：ICL与前缀微调方法实践

本开源项目由KasraRasi维护，于2026年5月26日在GitHub发布，旨在利用大语言模型（LLM）实现日志模板自动提取。项目支持GPT-2、Incoder、T5、BART等主流模型，提供上下文学习（ICL）和前缀微调（PT）两种核心方法，并实现了完整的评估指标体系，为日志分析、异常检测等AIOps任务提供基础支持。

现代分布式系统和微服务架构产生海量非结构化日志，包含系统运行关键信息。传统基于规则或统计的日志模板提取方法存在准确率低、泛化能力差的问题。日志模板提取是识别日志中常量（模板）和变量（参数）的过程，是后续日志分析、异常检测和根因分析的基础。

上下文学习（ICL）

无需微调，通过提示中的示例让模型学习提取模式，支持GPT-2、Incoder、T5、BART模型。

前缀微调（PT）

参数高效的微调方法，冻结预训练模型参数，仅训练输入前缀向量，降低计算资源需求，支持T5和BART模型。

环境依赖

Python3.6+，依赖Hugging Face Transformers、PyTorch、NLTK、Pandas、PEFT等库。

实现流程

• ICL：加载模型→构造示例→生成模板→保存结果→自动评估（命令行示例：python icl.py gpt-2）
• PT：需额外安装PEFT等依赖（命令行示例：python pt.py t5）

评估指标

• 文本相似度：Rouge-1/2/L、BLEU
• 专用指标：PA（解析准确率）、PTA（精确模板准确率）、RTA（宽松模板准确率）

数据集支持

覆盖系统日志、分布式系统日志、应用日志、服务器日志四种数据集。

实验结果

1. 较大模型性能更优，代码专用模型（如Incoder）在结构化日志表现突出；
2. 前缀微调性能优于ICL，但需额外训练成本；
3. PT在少量样本下快速收敛，LLM泛化能力良好。

应用价值

• 运维团队：减少人工分析，快速适应新日志格式；
• 开发者：开源可二次开发，支持多模型选择；
• 研究者：提供基准实现与对比实验参考。

当前局限

1. 依赖LLM，本地部署需一定计算资源；
2. 极端长日志或高度自定义格式处理能力有限；
3. 评估以英文日志为主，多语言支持不足。

未来方向

1. 探索LoRA、Adapter等高效微调方法；
2. 引入日志语义理解提升模板准确性；
3. 支持流式日志实时处理；
4. 开发可视化工具辅助分析。

本项目展示了LLM在传统日志分析任务中的应用价值，通过ICL和PT实现高质量日志模板提取，无需大量标注数据或仅需少量训练。对工程师提供可运行代码与实验流程，对研究者建立可复现基准。随着LLM能力提升与效率优化，基于LLM的日志分析有望成为AIOps重要技术方向。