大语言模型集成技术综述：Harnessing Multiple LLMs 的系统性研究

这篇被IJCAI Survey 2026接收的综述论文系统梳理了LLM Ensemble（大语言模型集成）领域的研究进展，提出推理前、推理中、推理后三阶段分类框架，并整理了相关论文、基准测试、应用案例及配套资源库，为研究者和实践者提供系统性知识框架与参考资料。

当前市场上存在数十种架构、训练数据、能力特点各异的大语言模型，部分擅长代码生成、推理或多语言处理。传统选择单一模型的做法存在局限，不同查询在不同模型上表现差异大。LLM Ensemble核心是动态选择/组合多模型，类似集成学习但需考虑延迟、成本、模型可用性等实际约束。

论文提出三阶段分类框架：

1. 推理前集成：核心为路由机制，根据查询特点分配模型，分离散效用（能力标签分类）和连续效用（性能分数/响应长度）方法，挑战是预测未见查询表现。
2. 推理中集成：细粒度融合，包括Token级（整合输出分布）、Span级（片段融合）、Process级（推理阶段介入），协作深但复杂度高。
3. 推理后集成：多模型生成完整回复后融合，非级联（投票、排序、总结）和级联（轻量模型优先，必要时调用强模型）策略。

关键技术：

• 推理前：训练路由器模型预测最佳模型、多臂老虎机在线学习、利用模型置信度/自我评估动态路由。
• 推理中：对齐词汇表与概率分布（强制解码、logits插值加权）、模型间交替生成协作推理。
• 推理后：简单方法（多数投票、ROUGE/BERTScore选择）、训练评估/总结模型聚合、级联策略设计阈值平衡成本性能。

基准测试：涵盖问答、代码生成、数学推理、指令遵循等任务，评估最终性能及效率指标（平均调用模型数、延迟、API成本）。 应用场景：代码生成提高复杂任务通过率；问答平衡准确性与速度；创意写作产出多样化高质量输出。

作者维护GitHub的Awesome-LLM-Ensemble资源库，分类组织相关论文列表，收录公开实现代码，承诺更新新论文，鼓励社区通过Pull Request或邮件贡献遗漏/新发表论文。

未来方向：动态集成自适应策略、在线学习机制、异构模型深度融合、效率与性能最优权衡。 总结：LLM Ensemble是AI从单一模型向多模型协作演进的重要趋势，综述及资源为领域提供支撑，将在构建更智能可靠AI系统中发挥关键作用。