Causal Transformer革新营销组合建模：深度学习取代传统MMM的端到端因果推断框架

Causal Transformer在营销组合建模（MMM）领域实现创新突破，通过深度学习架构取代传统Hill方程和Adstock模型，端到端从观测数据中自动学习动态效果，引入因果推断严谨性消除混杂偏差，并通过平均处理效应（ATE）进行渠道归因，为营销ROI评估提供新范式。

传统MMM依赖手工设计算子（Hill方程建模饱和效应、Adstock捕捉carryover效应、线性回归归因），存在领域知识依赖强、非线性交互捕捉弱、易受混杂因素干扰等局限。Causal Transformer标志范式转变：无需预设函数形式，端到端学习动态，结合因果推断消除混杂，通过ATE估计渠道贡献。

模型输入包括媒体投入（A_t）、时变协变量（X_t）、结果变量（Y_t）。通道分词器将渠道转为token，用傅里叶编码（fourier(x)=[sin(2π·2^0·x),cos(2π·2^0·x),...]）区分全动态范围花费差异。三流结构含三个StreamLayer模块，分别处理A/X/Y流，组件包括带掩码的因果自注意力、交叉注意力、静态协变量注入、位置前馈网络及Pre-LN残差连接，共享相对位置编码（lmax=13周）。

通过平衡表示Φ_t=ELU(Linear((A^B_t+X^B_t+Y^B_t)/3))实现协变量平衡。对抗更新分两步：1.更新对抗头G_A预测标准化花费；2.更新编码器和结果头G_Y，目标是预测结果同时迷惑G_A。损失函数包括结果预测MSE损失L_GY和混淆损失L_conf（鼓励预测接近0.5）。

支持多模态创意输入：预计算CLIP/BERT等嵌入，经MLP投影后作为静态偏移量添加到通道token。MAP先验损失融合领域知识：符号先验（L_sign_k=ReLU(-s_k×mean[∂ŷ/∂a_k])）约束边际效应符号；高斯ROI先验（L_roi_k=(ATE_k-μ_k)²/(2σ_k²)）结合历史估计，总先验损失L_prior=L_sign+L_gaussian_roi。

归因通过ATEEstimator类操作EMA模型（参数平滑稳定）。方法包括：零花费法（设渠道花费为零测销售下降）得绝对ATE和百分比归因；预算转移模拟（转移部分预算测销售变化）；ROI曲线（扫花费范围得响应关系）；边际ROI（有限差分近似∂ŷ/∂a_k）。

模型配置通过MMMConfig类，默认参数适配20渠道/3年周数据（约210万参数），参数量与渠道数无关易扩展。数据预处理自动归一化花费、标准化协变量/结果。对比优势：学习任意时间模式、傅里叶编码区分稀疏渠道、跨通道注意力捕捉协同效应、连续CDC损失适应花费特性、EMA稳定对抗训练。

局限性：需2-3年周数据，黑盒特性解释难。未来方向：整合外部数据源、在线学习适应市场变化、行业预训练模型。结论：Causal Transformer融合深度学习与因果推断，端到端取代手工算子，消除混杂偏差，提供严谨归因，为复杂市场环境下ROI评估提供灵活工具。