LLM-Forecast：ARIMA与大语言模型融合的时间序列预测新方法

时间序列预测是数据科学领域的经典问题，广泛应用于股票价格、能源需求、气象预报等场景。传统统计方法ARIMA凭借可解释性和严谨性长期主导，而大语言模型（LLM）的崛起带来新可能。开源项目LLM-Forecast提出融合两者的混合方法，旨在结合ARIMA的统计严谨性与LLM的模式识别能力，实现更准确的时间序列预测。

传统统计方法：ARIMA的优劣

ARIMA由Box和Jenkins于1970年代提出，核心是自回归（AR）、移动平均（MA）与差分（I）结合处理非平稳性。 优势：数学可解释性强、数据需求低、理论基础扎实、对异常值和噪声稳健。 局限：线性假设难以捕捉非线性模式、依赖人工特征工程、长期预测误差累积、难以融合非结构化外部信息。

大语言模型：新范式的机遇与挑战

LLM通过海量文本预训练展现强大模式识别和推理能力。 优势：捕捉复杂非线性关系、零样本/少样本学习、多模态融合潜力、因果推断与情景分析能力。 挑战：数值精度不足、幻觉风险、计算成本高、可解释性差。

LLM-Forecast核心是ARIMA与LLM互补：ARIMA捕捉结构性成分（趋势、季节性、自相关），LLM识别复杂模式变化和外部因素影响。

架构设计

两阶段框架：

1. ARIMA基线预测：平稳性检验与差分→自动选最优参数→生成基线预测与残差序列。
2. LLM残差修正：将残差作为目标→构建含历史残差、外部事件、领域知识的提示词→LLM预测修正量→叠加到基线。

提示词工程

关键创新：数值序列编码为文本、注入上下文信息（节假日等）、描述模式（趋势/周期/异常）、引导中间推理。

混合权重优化

最终预测=α×ARIMA预测 + (1-α)×LLM修正预测，α通过验证集优化或按预测 horizon动态调整。

数据预处理

• 归一化：数值缩放至LLM处理范围；
• 序列分段：长序列切分为重叠窗口；
• 特征增强：添加移动平均、波动率等衍生特征。

模型选择

支持多种LLM后端：GPT-4/GPT-3.5（推理强）、Claude（长上下文）、开源模型（Llama/Mistral，私有化部署）。

评估指标

• MAE/RMSE（精度）；
• MAPE（百分比误差）；
• 方向准确率（金融场景重要）；
• 置信区间覆盖率（预测区间包含真实值比例）。

金融预测

股票价格（结合技术指标+新闻情绪）、外汇汇率（宏观事件）、加密货币（高波动市场）。

能源与公用事业

电力需求（融合天气预报+节假日）、可再生能源发电（太阳能/风能出力）、能源价格（供需+政策）。

供应链与运营

销售预测（促销+市场趋势）、库存优化（需求波动）、物流规划（运输时间+需求热点）。

优势：

• 精度提升：多个基准数据集MAE比纯ARIMA降15-30%；
• 适应性增强：面对结构性变化（如疫情）更快适应；
• 可解释性保留：ARIMA提供统计基础，LLM提供模式洞察。

注意事项：

• 计算开销：双重预测增加推理时间；
• 超参数敏感：ARIMA参数与提示词需调优；
• 数据依赖：LLM修正效果与外部信息质量密切相关。

当前版本改进空间：

• 端到端优化：探索ARIMA与LLM联合训练；
• 不确定性量化：更好估计混合预测置信区间；
• 多变量扩展：加强多变量序列支持；
• 实时性优化：降低推理延迟，支持实时场景。

LLM-Forecast代表时间序列预测领域重要趋势：结合传统统计严谨性与LLM灵活性。这种混合范式不仅适用于预测，也为其他数据科学问题提供思路——拥抱新技术同时不抛弃经典方法，找到最佳结合点。

对实践者而言，LLM-Forecast提供可落地框架，展示如何在现有ARIMA pipeline集成LLM能力，无需完全重构。随着大模型能力提升与成本降低，混合方法将在更多领域展现价值。