toolpick：为AI Agent智能筛选工具的上下文优化方案

toolpick是一个用于优化AI Agent工具调用的开源库，通过智能筛选当前步骤最相关的工具，减少模型输入的上下文噪音，提升工具选择效率和响应速度。

现代AI Agent应用的发展趋势是功能越来越丰富。一个典型的企业级Agent可能同时集成邮件发送、日历管理、文件操作、搜索引擎、报表生成、数据分析等多种工具。当工具数量达到二三十个甚至更多时，每次对话轮次都将全部工具暴露给模型，会带来几个明显的问题：

首先，上下文窗口被大量工具描述占据，留给实际对话内容的token空间减少。其次，模型面对过多选项时，选择准确性会下降，可能调用不相关的工具。最后，过多的工具描述也会增加API调用的成本和延迟。

toolpick采用了一种简洁而有效的策略：为工具集建立索引，在每个步骤动态筛选最相关的工具子集。它的工作流程分为三个阶段：

开发者首先需要使用createToolIndex函数为所有可用工具建立索引。这个过程需要指定一个嵌入模型，用于计算工具描述与查询之间的语义相似度。

import { createToolIndex } from "toolpick";

const index = createToolIndex(allTools, {
  embeddingModel: openai.embeddingModel("text-embedding-3-small"),
});

索引构建是一次性的开销，后续可以重复使用。嵌入模型会将每个工具的描述转换为向量表示，为后续的相似度计算做准备。

在每次模型调用前，toolpick会根据当前的用户输入和对话上下文，从完整工具集中挑选出最相关的子集。这个筛选过程通过向量相似度搜索实现，确保只有与当前任务高度相关的工具会被激活。

const result = await generateText({
  model: openai("gpt-4o"),
  tools: allTools,
  prepareStep: index.prepareStep(),
  prompt: "ship it to prod",
});

这里的prepareStep是关键所在。它在每个步骤执行前被调用，动态设置activeTools，让模型只看到经过筛选后的工具列表。

值得注意的是，toolpick的筛选是"软筛选"而非"硬限制"。虽然模型在每个步骤只能看到精选的工具子集，但应用本身仍然保留对所有工具的访问权限。这意味着如果某个步骤确实需要调用之前被隐藏的工具，后续的步骤仍然可以重新激活它。

toolpick特别适合以下几类应用场景：

聊天机器人：当聊天机器人需要处理多种类型的用户请求时，toolpick可以根据对话主题动态切换可用工具。例如，用户询问天气时只暴露天气查询工具，讨论日程时只暴露日历相关工具。

任务型Agent：对于需要执行多步骤复杂任务的Agent，toolpick可以在每个子任务阶段聚焦最相关的工具集。比如"帮我安排一次商务旅行"这个任务，在查询航班阶段只展示搜索工具，在预订阶段才展示预订相关工具。

工具密集型助手：当应用集成了大量内部API和第三方服务时，toolpick可以有效管理工具复杂度，避免模型被过多的选项淹没。

采用toolpick后，开发者可以期待以下几方面的改善：

更小的工具集：每个步骤模型看到的工具数量从全部减少到仅相关的几个，通常可以减少80%以上的工具描述文本。

更清晰的模型输入：去除了不相关工具的干扰，模型可以更专注于当前任务，提高工具选择的准确性。

更好的工具匹配：基于语义相似度的筛选比简单的关键词匹配更精准，能够捕获工具功能与用户意图之间的深层关联。

完整的工具访问：筛选不会永久禁用任何工具，应用始终保留对全部工具集的访问能力，确保灵活性不受限制。

主流AI框架兼容：toolpick设计为与generateText、streamText以及实验性的Experimental_Agent等主流AI SDK兼容，可以无缝集成到现有项目中。