HeuristicInventor：让大语言模型自动发明组合优化算法

HeuristicInventor是一个创新的自动化发现引擎，利用大语言模型（LLM）通过迭代式的"新颖性搜索"循环自动发明组合优化问题（如旅行商问题TSP）的求解算法。其核心思路是让LLM生成、测试并改进Python代码，不断引入新的状态变量和搜索动态，加速算法发现过程。该项目为组合优化领域提供了AI辅助算法设计的新范式。

组合优化问题（如TSP、VRP等）是NP-hard问题，在物流、制造等领域应用广泛，但传统启发式算法需领域专家手工设计调优，耗时费力。HeuristicInventor提出颠覆性思路：让大语言模型成为算法发明者，通过自动化循环理解问题结构、提出创新策略，解决传统方法的痛点。

HeuristicInventor的核心架构包含三个关键组件：

1. 新颖性搜索循环：受生物进化启发，优先保留行为差异大的候选方案，避免过早收敛，保持解空间多样性；
2. LLM驱动的代码生成：支持Google Gemini、DeepSeek等模型，接收问题描述、分析瓶颈、生成模块化Python代码；
3. 自动化测试与评估：在TSP基准实例上运行算法，记录质量、效率及行为特征，反馈结果指导下一轮生成。

HeuristicInventor的技术亮点包括：

• 动态状态变量发现：LLM自由发明节点访问频率、边热度等新变量，捕捉问题深层结构；
• 自适应搜索动态：根据进度调整探索/利用比例、修改邻域大小、实现多策略混合与记忆机制；
• 跨实例泛化能力：在未见过的TSP实例类型上仍保持竞争力。

项目在多个TSP基准测试集验证有效性：

• TSPLIB标准实例：达到或接近已知最优解；
• 大规模随机实例：可处理数千节点问题，扩展性良好；
• 特殊结构实例：在聚类或网格结构实例上表现突出。 有趣发现：LLM有时重新发明经典算法变体（如模拟退火），也会提出人类专家未考虑的创新策略。

HeuristicInventor的应用前景广泛：

• 其他组合优化问题：可迁移至VRP、作业调度、背包问题等；
• 技术融合：与神经组合优化、贝叶斯超参数优化、多目标优化结合；
• 教育研究价值：作为研究LLM创造力的实验平台，帮助理解其推理模式与创新边界。

HeuristicInventor存在以下局限性：

• 计算成本：LLM API调用成本高，限制大规模搜索；
• 代码可靠性：自动生成代码偶尔含语法或逻辑缺陷；
• 可解释性：部分算法缺乏直观解释；
• 理论保证：缺乏生成算法性能的理论分析。

HeuristicInventor代表了AI辅助算法设计的新方向，通过LLM创造力与自动化评估结合，为组合优化领域带来新范式。未来方向包括：

1. 降低API调用成本的高效代码生成策略；
2. 自动代码修复机制提升可靠性；
3. 建立生成算法的理论分析框架；
4. 扩展到更广泛的优化问题类别。该项目为开发者和研究者提供了开源工具与实验平台。