LLM推理硬件需求计算器：精准估算大模型部署所需资源

一款基于Web的开源工具，帮助开发者计算运行大语言模型所需的VRAM、系统内存和GPU配置，支持多种量化方法和上下文长度设置，解决手动计算复杂易错的问题，提供直观界面与准确计算逻辑。

随着LLM快速发展普及，开发者和企业希望本地部署LLM，但不同模型规模（7B到70B+）、量化方法（FP32/FP16/INT8/INT4）、上下文长度均显著影响硬件需求，手动计算复杂且易出错，尤其KV缓存等额外内存开销难以准确估算。

1. 模型规模与参数量：输入参数数量作为计算基础；2. 量化方法选择：支持多种精度（FP32/FP16/INT8/INT4），直接影响内存占用；3. 上下文长度与KV缓存：考虑序列长度对KV缓存的线性增长影响；4. 硬件类型适配：支持独立GPU系统（计算所需GPU数量）和统一内存系统（估算最小系统内存）。

输出指标：所需VRAM（含模型权重+KV缓存）、最小系统RAM、磁盘占用、GPU数量；技术栈：React+TypeScript+Vite；部署方式：本地开发（npm install/dev）、生产构建（npm run build）、Docker部署、GitHub Pages自动部署。

1. 硬件采购决策：评估现有硬件能否运行目标模型、确定GPU数量；2. 模型选型参考：反向评估现有硬件支持的模型规模与量化级别；3. 云服务成本估算：优化GPU实例规格与运行成本。

注意事项：计算为近似值，实际内存可能因实现而异；含KV缓存开销；统一内存假设75%可用；独立GPU假设24GB显存；许可：MIT开源，允许自由使用、修改和分发。

工具填补LLM部署硬件需求估算空白，避免资源不足或过度配置；未来计划支持更多量化方法（如GGUF）、硬件预设、推理延迟估算、多模态模型计算等，成为LLM部署规划的重要助手。