Strategy-Induct：无需标注答案的任务级指令归纳框架

本文介绍了Strategy-Induct框架，其核心创新在于无需标注答案即可归纳任务级指令。该框架通过生成显式推理策略形成(策略,问题)对，在纯问题设置下超越现有SOTA方法，并发现LLM与推理模型联合使用可进一步提升性能。框架解决了传统指令归纳依赖标注数据的瓶颈，具有降低提示设计门槛、增强模型可解释性等应用价值。

问题背景：指令生成的标注瓶颈

在LLM应用中，高质量提示设计至关重要，但手工设计耗时且依赖专家经验。现有指令归纳方法依赖输入-输出对示例，需标注答案，而实际场景中获取标注数据困难（如开放式问答、复杂推理任务），限制了适用范围。

Strategy-Induct核心思想

Strategy-Induct的核心创新是完全摆脱对标注答案的依赖，仅需示例问题即可归纳有效指令。框架分两阶段：

1. 生成显式推理策略，形成(策略,问题)对；
2. 从策略-问题对归纳任务指令。

其直觉基础是：描述“如何思考”（策略）比“正确答案”更易推断且泛化性强，策略作为中间表示保留任务核心特征，避免答案噪声与偏差。

技术方法详解

策略生成阶段

构造提示模板引导模型为每个示例问题生成抽象且可操作的推理策略（如数学题策略：识别类型→提取数值→建立方程→求解验证）。

指令归纳阶段

从策略-问题对中提取共性，生成描述任务本质及推理框架的自然语言指令。

推理时应用

将归纳的指令作为系统提示前置，指导模型复用任务特定推理模式。

实验设计与关键结果

实验覆盖数学推理、常识推理、代码生成等场景，采用纯问题协议（仅提供问题）：

• 超越SOTA：在多个基准测试上优于现有无答案指令归纳方法；
• 跨模型一致性：优势在不同规模模型（数十亿到数百亿参数）上保持一致；
• 协同提升：LLM生成策略和指令+专门推理模型执行，性能优于单一模型。

应用价值与实践意义

1. 降低门槛：只需示例问题即可获得优化指令，利于快速原型和垂直领域应用；
2. 增强可解释性：显式策略让用户理解模型推理方式，便于调试优化（适用于医疗、法律等高风险场景）；
3. 策略干预空间：可在策略层面调整（合并、优先级、领域特定模式），无需修改模型。

局限与未来方向

局限：

• 主要针对单轮推理任务，复杂多轮/工具调用任务需提升；
• 性能受示例问题质量影响大。

未来方向：

• 探索层次化策略表示支持复杂推理；
• 开发主动学习机制选择有价值示例；
• 策略归纳与模型微调协同优化。