frugaLLM：智能路由代理，让 OpenRouter 免费模型为你省钱

frugaLLM是一款零依赖的本地LLM路由代理，专为OpenRouter用户设计。它能自动发现每日最佳免费模型，将日常请求路由到免费端点，仅在必要时升级到付费模型，解决小任务消耗付费模型余额的痛点，帮你最大化API预算利用率。

对于频繁使用AI辅助编程和写作的OpenRouter用户，小任务（如修正拼写错误、格式化JSON、写git commit信息）也调用付费模型，导致余额快速消耗（11美元可能几天花完），用户不敢随意问小问题。这是frugaLLM要解决的核心问题。

frugaLLM采用三层路由系统：

1. Balanced层：默认路由目标，常规请求到最佳免费通用模型（$0.00，适合日常任务）；
2. Reasoning层：显式需要推理时，路由到最佳免费推理模型（$0.00，适合逻辑分析）；
3. 付费层：仅当显式要求升级（//escalate）、免费模型连续失败或上下文过大时使用付费模型（按实际费率计费）。

frugaLLM每次启动时扫描OpenRouter的/models端点，自动更新路由表，选择当日最佳免费模型。无需手动跟踪免费模型、更新配置或担心错过新模型/限时优惠。

frugaLLM是纯Python3.10+项目，仅依赖requests库。本地运行监听http://localhost:5050/v1（模拟OpenAI API端点），好处包括：隐私（请求先过本地代理）、灵活（支持自定义OpenAI端点的应用）、轻量（无复杂依赖）、可控（可修改源码）。

使用步骤：

1. 下载配置：创建目录，放入router_server.py，写.env文件填OpenRouter API密钥；
2. 指向代理：AI应用中设置Base URL为http://localhost:5050/v1，API Key填任意值；
3. 运行服务：启动后正常使用应用。强制层级：选auto/balanced_free（第一层）、reasoning_free（第二层）、pro或//escalate（付费层）。

frugaLLM倡导务实策略：不为简单任务支付高端模型费用。免费模型胜任大量日常任务，智能路由帮用户充分利用免费资源，预算留给复杂推理场景。适合个人开发者、小团队等控制AI使用成本的用户。若你OpenRouter账单心疼，不妨试试frugaLLM。