SelRoute：基于查询类型感知的对话历史检索路由框架

SelRoute是一种针对对话历史检索的查询类型感知路由框架，通过动态选择专用检索管道（词法、语义、混合或词汇增强），在无需GPU和LLM推理的情况下，使用小模型实现了超越大模型的检索效果，并揭示了词汇扩展对词法与嵌入检索的不对称影响。

长对话系统中，检索相关历史交互是提供连贯个性化回复的关键，但面临对话跨时长、主题多样、意图动态变化等挑战。传统方案依赖大稠密模型（1.1亿-15亿参数）或LLM增强索引，虽有效果但需昂贵GPU资源，LLM方案延迟和成本高，亟需轻量高效替代方案。

SelRoute的核心是根据查询类型路由到专用管道：

• 词法检索：适合精确术语查询
• 语义检索：适合概念性/同义表达查询
• 混合检索：适合复杂多意图查询
• 词汇增强检索：存储时扩展词汇，适合语义扩展需求 每个管道针对特定类型优化，避免一刀切的资源浪费。

在LongMemEval_M基准上：

• bge-base-en-v1.5（1.09亿参数）Recall@5=0.800
• bge-small-en-v1.5（3300万参数）Recall@5=0.786
• 对比：LLM生成fact keys的Contriever仅0.762 意外发现：SQLite FTS5（零机器学习）NDCG@5=0.692，超所有已发表基线。五折交叉验证显示路由稳定（变异系数1.3-2.4个点），83%路由准确率，端到端检索仍优于统一基线。

跨8个基准（含MSDialog、LoCoMo等62k+实例）无需调优即表现良好，泛化性强。但在推理密集型任务（RECOR基准）Recall@5仅0.149，明确了失败模式，帮助界定适用场景。

存储时词汇扩展改善词法检索，但损害嵌入检索效果（富集-嵌入不对称性）。工程启示：

• 词法管道：索引阶段积极扩展词汇
• 语义管道：保持原始文本避免噪声
• 不同管道需差异化富集策略。

SelRoute部署友好：

1. 零GPU需求（CPU可完成）
2. 零LLM推理（查询时无大模型调用）
3. 轻量级模型（base版仅1.09亿参数）
4. 基于SQLite（利用成熟数据库） 适合边缘设备、高并发低延迟、成本敏感、隐私本地部署场景。

启示：专业化优于通用化；轻量级方案值得重视；诚实面对局限性；预处理策略需差异化。展望：提升推理密集型查询支持；路由策略自适应调整。为对话系统开发者提供成本与延迟敏感场景的优质选项。