PPB-MCP：将GPU基准测试数据转化为可查询的MCP服务

PPB-MCP是由paulplee开发的开源Model Context Protocol服务器，它将包含3万+真实记录的Poor Paul's Benchmark（PPB）GPU推理数据（量化方案、吞吐量、显存占用、并发用户数等）封装为可查询服务，支持Claude Desktop、Cursor等主流AI客户端。该项目以"实证优先"为理念，帮助开发者解决LLM部署中量化方案选择、显存规划等决策难题，提供数据驱动的可靠建议。

在LLM部署过程中，开发者常面临量化方案选择、硬件配置匹配等复杂问题（如"32GB显存GPU运行Qwen3.5-9B，8并发用户用什么量化方案？"）。PPB数据集包含大量真实基准测试记录，但缺乏便捷的查询方式。PPB-MCP应运而生，将PPB数据转化为MCP服务，让AI客户端可直接查询。

PPB-MCP提供9个查询工具，分三类：

1. 基础查询：list_tested_configs（列出所有测试过的GPU/模型/量化方案）、query_ppb_results（筛选原始基准数据）；
2. 智能推荐：recommend_quantization（三层置信度量化推荐）、get_gpu_headroom（验证显存余量）；
3. 质量评估：get_qualitative_summary（获取质量评分）、query_qualitative_results（筛选质量数据）、get_context_rot_breakdown（长上下文召回分析）、get_tool_accuracy_breakdown（工具调用准确率分解）、compare_quants_qualitative（量化方案质量对比）。

推荐引擎分高（同GPU≥3次实测）、中（不同GPU比例换算）、低（公式外推）三个置信度等级。

PPB-MCP采用SQLite本地缓存策略：启动时加载本地数据库，仅当数据集git commit SHA变化时更新，支持离线使用并减少HuggingFace依赖。支持两种MCP传输协议：stdio（本地集成）、streamable-http（远程部署），官方托管端点为https://mcp.poorpaul.dev/。

集成：支持Claude Desktop、Cursor、Windsurf、VS Code等客户端，配置方式为修改对应JSON文件（如Claude需编辑claude_desktop_config.json添加MCP服务器地址）。 部署：

• pip安装：pip install ppb-mcp，启动命令如MCP_TRANSPORT=stdio ppb-mcp；
• Docker部署：运行官方镜像并映射端口；
• 开发/生产部署：提供git克隆、dev依赖安装及一键部署脚本（支持Docker、systemd等）。

PPB-MCP解决LLM部署四大痛点：

1. 量化方案选择困难：基于实测数据推荐；
2. 显存规划风险：get_gpu_headroom工具避免OOM；
3. 性能预估不准确：用真实数据提供吞吐量预估；
4. 质量与速度权衡：compare_quants_qualitative直观对比。 示例：查询32GB GPU运行Qwen3.5-9B（8并发）的量化方案，返回Q5_K_M（高置信度）及显存/性能数据。

PPB-MCP将静态PPB数据集转化为动态查询服务，帮助开发者在LLM部署中做出数据驱动的决策。项目优势包括数据驱动、多层置信度、广泛兼容、灵活部署、离线友好等。未来将持续更新PPB数据集，增强推荐能力，欢迎社区贡献。采用MIT许可证，适合本地/私有云LLM部署优化。