Prompt Sommelier：用浏览器扩展实现智能LLM选型，告别token浪费

Prompt Sommelier是一款浏览器扩展，通过本地ONNX推理分析用户prompt，智能推荐最适合的LLM层级，帮助用户在调用云端大模型前做出最优选择，节省token成本并保障隐私。项目由Developer-Mike-Collins开发维护，源码位于GitHub，发布时间为2026年6月5日。

随着LLM生态爆发式增长，用户面临模型选择难题：当前LLM分为轻量级本地模型（如Phi-4、Gemma 2B）、中端云端模型（如GPT-3.5、Claude 3 Haiku）、旗舰级大模型（如GPT-4o、Claude 3.5 Sonnet）三个层级。许多用户习惯用最强模型处理所有任务，导致大量不必要的token开销，而大量日常任务可用更小、更便宜的模型完成。

Prompt Sommelier是创新浏览器扩展，核心理念为"智能配型"。核心特性包括：1.本地ONNX推理，敏感prompt不发送至外部服务器；2.实时分析prompt的复杂度、任务类型与所需能力；3.智能推荐LLM层级；4.零云端依赖，完全离线工作（除安装外），无需API key。

技术架构基于边缘AI：1.采用ONNX Runtime for Web，支持跨平台兼容、性能优化与体积控制；2.Prompt分类模型遵循文本嵌入→任务分类→复杂度评估→模型匹配的路线（具体架构未公开）。

1.成本优化：预筛选任务，简单任务推荐本地/便宜模型，仅复杂任务调用旗舰模型；2.隐私保护：本地分析敏感prompt，决定是否使用云端模型；3.响应速度：本地模型无网络延迟，简单任务体验更优。

场景1：日常商务邮件→低复杂度→推荐本地轻量模型或GPT-3.5级别；场景2：复杂代码审查→高复杂度→推荐GPT-4或Claude 3.5 Sonnet级别；场景3：创意写作→中高复杂度→推荐中端以上模型。

当前局限：模型覆盖度依赖训练数据质量、任务边界模糊、新模型适配需持续更新。未来方向：个性化学习优化推荐、多维度评估（成本/延迟/隐私）、主流LLM API集成、企业级功能（团队策略/成本追踪/合规审计）。

Prompt Sommelier体现了LLM应用精细化、智能化的发展方向，是优化成本与效率的重要工具。随着边缘AI技术成熟，更多此类创新将涌现，帮助用户更聪明地使用AI。