从模仿到协作：CoSpec重新定义投机解码范式

CoSpec提出协作式投机解码方法，通过强化学习训练仲裁策略，在草稿模型与目标模型分歧时智能选择更可能导向正确答案的token，既保持推理加速效果，又超越单一目标模型的性能。该方法打破传统投机解码将目标模型视为唯一权威的局限，实现模型间的协作而非模仿。

投机解码（SPD）是加速大模型推理的重要技术，通过草稿模型快速生成候选token，目标模型并行验证，一致则接受以降低延迟。但传统范式假设目标模型总是更优，忽视了草稿模型在部分token分歧场景中反而能导向正确答案的事实，盲目拒绝分歧token可能丢弃更好选择。

CoSpec引入强化学习驱动的仲裁策略，评估上下文判断接受草稿或目标token；训练数据来自验证集回溯的分歧点正确选择；仲裁模型为轻量级网络，兼容现有SPD框架无需修改原模型。该方法实现从模仿到协作的范式转变，融合两模型优势。

实验表明CoSpec保持投机解码加速优势，且输出质量超越单独目标模型；仲裁器能在目标模型过度自信或有系统性偏差的分歧场景中优先选择草稿token，验证"1+1>2"的协作效果。

CoSpec挑战大小模型性能简单对应关系，揭示模型能力互补性；展示动态路由在多模型系统的价值；仲裁训练过程提供更可靠的不确定性量化视角。

部署需平衡仲裁精度与计算开销，采用轻量级仲裁模型；需针对专业领域微调仲裁策略；部分场景需开发可解释的仲裁机制。

CoSpec代表投机解码领域重要进步，从模仿走向协作；其智能仲裁与协作融合方向或成未来多模型推理标准范式，强调多模型优势互补的价值。