Mac-MLX：为 Apple Silicon 打造的本地大模型原生体验

Mac-MLX是专为Apple Silicon设计的本地大语言模型推理工具，解决现有方案依赖Electron导致体验差、需复杂Python环境、无法充分发挥Apple Silicon性能等痛点。它提供原生macOS应用体验，无需云端服务、Electron框架或Python环境，保障数据隐私，支持离线推理，还能通过OpenAI兼容API与第三方工具集成。

Mac-MLX是开源项目，核心理念为三个'不'：不需要云端服务、不需要遥测数据收集、不需要Electron框架。用户数据完全本地保留，隐私充分保障；原生Swift开发界面利用macOS系统特性，提供流畅体验。适合对数据隐私敏感、需离线使用AI能力的用户，可用于编写代码、文档或创意写作等场景。

Mac-MLX采用分层架构：引擎层、核心层、界面层。引擎层支持多种后端：默认mlx-swift-lm引擎（Apple Silicon优化，利用Metal和ANE算力）；SwiftLM引擎（支持SSD流式加载，突破内存限制，适用于100B+参数模型）；可选Python mlx-lm引擎。核心层MacMLXCore是Swift包，协调引擎并提供统一接口，集成Hummingbird HTTP服务器，支持OpenAI兼容API，可无缝集成Claude Code、Cursor等第三方工具。

安装：从Releases页面下载DMG包，拖入应用程序文件夹；首次启动需右键'打开'绕过Gatekeeper。使用方式包括：图形界面应用；命令行工具macmlx（如macmlx pull Qwen3-8B-4bit下载模型，macmlx serve启动本地OpenAI兼容API服务器）；基于SwiftTUI的文本用户界面（TUI）。

对比主流工具：

• 与LM Studio：原生SwiftUI界面，启动速度、内存占用、资源利用更优（非Electron）；
• 与Ollama：默认用Apple原生MLX框架（非GGUF），更好发挥Apple Silicon特性；
• 与oMLX：提供完整图形界面和菜单栏集成，对非技术用户更友好。 此外，Mac-MLX支持100B+参数MoE模型，得益于SwiftLM引擎和SSD流式加载技术，是专业用户的差异化优势。

开发计划：v0.1版本将包含完整图形界面、命令行工具、模型下载器、OpenAI兼容API；v0.2计划增加Homebrew安装、VLM支持、社区排行榜。项目采用Apache 2.0开源协议，欢迎社区贡献（代码提交、问题反馈、功能建议），GitHub仓库有详细贡献指南。

Mac-MLX追求原生体验与功能完整性，为Apple Silicon用户提供安全高效的本地AI解决方案，避免跨平台框架性能损耗和数据隐私风险。随着迭代和社区参与，有望成为macOS平台本地大模型推理首选工具，值得关注和尝试。