潜空间迭代优化：让AI在推理时"多想想"的新范式

核心观点：潜空间迭代优化（Latent Refinement）是一种让AI在推理时"多想想"的新范式，通过迭代更新内部潜空间表征提升推理能力，为AI性能扩展提供了不同于"增大模型参数或训练数据"的新路径。Awesome-Latent-Refinement项目系统梳理了相关模型与智能体，重新定义了对AI推理能力的理解。

传统AI推理是一次性输入输出，而潜空间迭代优化模拟人类思考的反复推敲过程：让模型在内部潜空间进行多轮迭代计算，逐步优化内部表征而非直接输出结果。其关键特征包括三个维度：1.推理时计算扩展（性能随额外内部计算步骤提升，不依赖模型规模）；2.共享计算动态（多轮迭代复用相同/相似变换机制）；3.潜空间表征优化（更新内部隐层状态而非显式中间输出）。

监督学习框架下的实现方式包括：1.循环深度模型（Recurrent-Depth Models）：将网络深度重新诠释为迭代计算，同一组参数在推理时反复应用优化表征；2.2025年《Scaling up Test-Time Compute with Latent Reasoning》研究显示，增加推理迭代轮数可显著提升数学推理和逻辑谜题准确率；3.循环语言模型（Looped Language Models）：设计反馈机制允许信息层间循环，适合数学证明、代码生成等多步推理任务；4.Parallel Loop Transformer（PLT）：通过并行采样策略在不牺牲质量的前提下降低迭代延迟。

强化学习让模型自发学会"思考什么"：1.2019年《An Investigation of Model-Free Planning》实证表明，模型无关的强化学习循环智能体可展现规划行为，面对复杂任务时会内部模拟评估行动序列；2.2025年《Interpreting Emergent Planning in Model-Free Reinforcement Learning》揭示机制：迭代中存在潜空间层面的"计划细化"（早期形成粗略策略，后续优化细节），说明规划能力可自然涌现无需显式编码。

Awesome-Latent-Refinement项目的收录条件：1.推理时进行潜空间表征迭代优化；2.多轮迭代共享计算机制；3.额外计算步骤带来可测量性能提升。排除的技术：1.基于文本的自我修正（操作显式文本空间而非潜空间）；2.树搜索方法（如MCTS，依赖显式搜索而非潜空间优化）；3.纯世界模型模拟（缺乏迭代表征更新机制）。

实践优势：1.计算效率（增加推理迭代相对廉价，比训练更大模型更可持续）；2.可解释性（潜空间迭代过程为理解推理机制提供切入点）；3.灵活性（调整迭代轮数平衡速度与精度，无需重新训练）。当前挑战：1.基于强化学习的潜空间优化研究相对匮乏（受RL训练复杂性和样本效率限制）；2.如何在保持迭代质量的同时降低延迟仍是部署瓶颈。