StudyForge：在浏览器中本地运行LLM与RAG的隐私优先学术助手

StudyForge是一款完全离线、隐私优先的PWA应用，通过WebGPU和WebAssembly技术在浏览器中直接运行大语言模型（LLM）与检索增强生成（RAG）系统，为学术写作提供零延迟、零数据泄露的AI辅助体验。它解决了云端AI工具的数据安全风险与网络依赖问题，将计算能力下沉到终端设备。

在AI辅助写作工具普及的今天，研究人员面临两难：使用云端AI服务需上传敏感学术数据、文献及知识产权，存在泄露风险；放弃AI辅助则效率落后。传统云端LLM方案还存在网络延迟、依赖互联网连接等痛点，尤其在机密研究场景中突出。

WebGPU与WebAssembly协同

StudyForge利用WebGPU访问GPU硬件，WebAssembly提供接近原生的执行效率，支持数十亿参数的量化模型（如Llama3.2、Phi-4），通过wllama库推理，动态显存管理可在GPU不足时回退CPU。

本地RAG系统

通过Web Workers后台处理PDF解析、分块、向量化（Xenova/Transformers库），结合语义相似度与关键词混合检索，用Origin Private File System（OPFS）存储数据。

BYOK安全设计

硬件不足时采用“自带密钥”架构，API密钥AES-256加密存储IndexedDB，需主密码解密，自动锁定机制清除内存密钥保障安全。

分阶段写作支持

划分学术写作阶段（文献综述、构思、段落起草），提供对应工具，帮助保持节奏，避免上下文切换。

动态智能体工坊

用户可创建/编辑自定义学术任务智能体，社区模板库支持预览与一键应用，非技术用户也能定制助手行为。

PWA原生体验

支持离线安装，Service Worker缓存资源，提供英语/德语界面，可扩展多语言支持。

StudyForge特别适合以下群体：

• 处理敏感数据的研究者（医学、法律、商业领域）；
• 网络环境受限用户（出差、偏远地区、审查环境）；
• 隐私意识强的知识工作者；
• 预算有限的学生（避免API按token计费成本）。

当前局限：浏览器资源约束，WebGPU性能不及原生CUDA；文件系统访问受同源策略限制，大规模文档管理需同步策略。

未来展望：

• 支持更多量化格式与模型架构；
• 增强多模态能力（图表、公式处理）；
• 端到端加密下的团队协作功能；
• 优化移动端性能与电池消耗。

StudyForge代表AI应用架构的重要方向——边缘AI，将计算从云端下沉到终端，解决隐私与延迟问题，赋予用户技术控制权。它证明浏览器可承载复杂AI工作负载，为隐私优先的AI应用开发树立新标杆。