LightVLMInvoice：纯本地视觉大模型文档信息提取系统，保障数据隐私

LightVLMInvoice是基于本地部署视觉大语言模型（VLM）的文档/发票结构化信息提取系统，采用前后端分离+异步任务队列架构，支持多页PDF自动解析，所有推理均在本地完成，核心设计理念为"隐私优先"，解决传统云服务API带来的敏感数据隐私与合规风险问题。

数字化转型中企业需处理海量纸质/电子文档（发票、合同、报表等），传统方案依赖云服务API，敏感业务数据外发导致不可忽视的隐私与合规风险。LightVLMInvoice以本地部署VLM为核心，提供完全离线的文档解析方案，平衡AI效率与数据安全。

• 前后端分离架构：前端采用React+Vite+TypeScript+TailwindCSS；后端基于FastAPI，搭配Celery+Redis实现异步任务调度；
• 推理引擎：使用vLLM部署本地VLM（默认量化模型cyankiwi/Qwen3.5-2B-AWQ-BF16-INT8，低显存占用）；
• 容错机制：通过json_repair库自动修复模型输出的JSON语法错误，保障数据有效性。

• 复杂文件支持：全自动解析多页PDF，后台自动拆分单页处理；
• 异步非阻塞：提交文件后返回任务ID，前端轮询获取进度与结果；
• 强鲁棒性：包含错误重试、结果验证、异常处理机制；
• 纯本地离线：所有推理与解析均在本地完成，无网络依赖。

• 环境要求：Docker & Docker Compose、NVIDIA GPU及对应Container Toolkit；
• 快速启动：克隆项目→进入docker目录→执行docker-compose up -d --build；
• 访问地址：前端http://localhost:8002，后端API文档http://localhost:8005/docs；
• 参数配置：通过.env文件调整端口、并发数（CELERY_CONCURRENCY）、模型参数等。

适用于财务发票处理（提取号码、金额等）、合同文档解析（关键条款、签约方）、证件信息录入（身份证/营业执照）、报表数据提取（表格转结构化格式）等场景。

• 当前局限：依赖NVIDIA GPU、复杂表格/手写体识别能力待提升、单节点部署；
• 未来改进：集成更多开源VLM模型、支持GPU池化负载均衡、优化批处理效率、增加结果置信度评分。

• 本地部署优势：数据隐私（不出域）、成本可控、低延迟、离线可用；
• 云服务优势：免运维、弹性扩展、自动模型更新；
• 结语：LightVLMInvoice为关注数据安全的企业提供平衡效率与隐私的解决方案，是开源场景下值得评估的选择。