Enkidu：基于 Gemma 4 与 Claude API 的本地 AI 助手开源项目

Enkidu是一个开源本地AI助手项目，结合Google Gemma4本地模型与Anthropic Claude API作为后备，支持RTX4090 CUDA加速推理。它为学习Agentic系统、GPU计算和全栈LLM部署提供完整实践案例，兼具数据隐私保护与复杂任务处理能力。

随着大语言模型技术发展，本地部署AI助手因隐私保护和降低API成本受到关注。Enkidu项目名称源自《吉尔伽美什》史诗人物，象征AI与人类智慧的伙伴关系，旨在帮助开发者理解Agentic系统、GPU计算和全栈LLM部署核心概念。

Enkidu采用智能模型调度策略：

1. 主模型Gemma4：Google开源轻量级模型，可在本地RTX4090运行，支持CUDA加速推理，无网络即可工作；
2. 后备模型Claude API：当本地模型无法处理复杂任务时自动切换，利用Claude强大推理能力确保体验连续性。该架构平衡隐私、响应速度与复杂场景处理能力。

Enkidu充分利用RTX4090显卡优势：24GB GDDR6X显存、16384 CUDA核心、第四代Tensor核心支持高效推理。优化策略包括：模型量化降低显存占用、动态批处理提高GPU利用率、KV缓存优化减少重复计算、内存管理避免OOM错误、流式响应实现逐字输出。

Agentic能力：支持文件系统操作、代码执行、网络请求、系统命令；具备任务规划（分解子任务、维护状态、动态调整）和高效上下文管理（滑动窗口、重要性评分、长文档摘要）。 全栈部署：后端含模型服务层（vLLM/TGI）、API网关、业务逻辑层、数据存储层；前端提供简洁聊天界面、Markdown渲染、文件上传下载；支持本地开发、Docker容器化、云端扩展部署方式。

学习价值：

• 开发者：端到端实现参考、性能优化技巧、架构设计模式、故障处理经验；
• AI学习者：本地LLM部署、GPU编程基础、Agentic系统原理、全栈开发流程；
• 隐私用户：敏感数据本地处理、开源可审计、无数据收集。 社区与未来：欢迎贡献模型支持、工具扩展、UI改进、文档完善；未来计划包括多模态输入、RAG知识库、语音交互、移动端优化。

Enkidu代表AI应用重要方向：隐私保护前提下利用本地计算资源。随着开源模型能力提升和硬件进步，本地AI助手将更实用。对开发者而言，Enkidu是工具也是学习平台，帮助掌握从CUDA优化到Agentic系统设计的完整技术栈。无论隐私用户还是学习者，Enkidu都值得关注尝试。