章节 01
【导读】NeoMind:基于Rust的边缘AI平台,赋能物联网自主决策
NeoMind是使用Rust构建的边缘AI平台,通过大语言模型(LLM)实现物联网设备的自主管理与自动化决策。支持多后端LLM、BLE配网、MQTT协议、AI Agent工具调用、实时视觉分析等完整功能,提供桌面应用与服务器部署两种模式,旨在解决边缘AI与IoT整合中的协议异构、实时性、安全隔离等挑战。
正文
NeoMind是一个使用Rust构建的边缘AI平台,通过大语言模型(LLM)实现物联网设备的自主管理和自动化决策。支持多后端LLM、BLE设备配网、MQTT协议、AI Agent工具调用、实时视觉分析等完整功能,提供桌面应用和服务器部署两种模式。
章节 01
NeoMind是使用Rust构建的边缘AI平台,通过大语言模型(LLM)实现物联网设备的自主管理与自动化决策。支持多后端LLM、BLE配网、MQTT协议、AI Agent工具调用、实时视觉分析等完整功能,提供桌面应用与服务器部署两种模式,旨在解决边缘AI与IoT整合中的协议异构、实时性、安全隔离等挑战。
章节 02
随着大语言模型(LLM)能力的快速演进,将其部署到边缘设备以实现本地化、低延迟的智能决策成为行业热点。然而,LLM与物联网(IoT)生态系统深度整合面临诸多挑战:设备协议异构、实时性要求、安全隔离、多模态数据处理等。NeoMind应运而生,以Rust为核心服务实现语言,结合React/TypeScript前端和Tauri桌面框架,提供从边缘到云端的一体化解决方案。
章节 03
NeoMind采用模块化、事件驱动的架构设计,各组件通过事件总线(Event Bus)解耦通信。核心层包括neomind-core(定义核心trait和类型系统)、neomind-api(基于Axum的Web API服务)、neomind-agent(AI Agent模块)、neomind-storage(基于redb的嵌入式存储);设备与自动化层含neomind-devices(MQTT设备管理、BLE配网)、neomind-rules(规则引擎)、neomind-messages(消息系统);扩展层提供SDK与进程隔离的扩展执行环境。前端基于React18+TypeScript+Tailwind CSS,通过Tauri 2.x打包跨平台桌面应用。
章节 04
NeoMind支持多种LLM后端(Ollama、OpenAI、Anthropic、Google、xAI、通义千问等),用户可灵活选择。AI Agent系统具备工具调用能力,分为专注模式(单轮快速响应,适用于监控任务)和自由模式(多轮开放式推理,适合故障诊断)。内置工具包括设备查询控制、Shell工具、AI指标工具、自定义技能系统(YAML+Markdown格式)。
章节 05
设备接入方式:BLE配网(零接触设置,支持多种网络类型)、MQTT协议(内置代理,mTLS认证)、自动发现注册(局域网检测、AI辅助类型识别)。实时视觉分析通过WebSocket流式传输视频帧,可配置任意LLM后端作为视觉模型,结果绑定数据源在仪表板展示,用于场景理解(如人员检测、设备异常)。
章节 06
存储架构:时间序列存储(redb,高效范围查询与聚合)、LLM分类记忆(Profile用户偏好、Knowledge领域知识、Tasks任务历史、Evolution系统演化洞察)、向量搜索(语义检索)。安全方面:扩展系统采用能力模型访问控制(如device_control、agent_invoke等),支持原生动态库与WASM格式,进程隔离运行且崩溃自动重启。
章节 07
部署选项:桌面应用(跨平台,内置服务器与Web UI)、服务器二进制(无头部署,自带静态服务)、一键安装脚本(curl -fsSL https://raw.githubusercontent.com/camthink-ai/NeoMind/main/scripts/install.sh | sh)。典型场景包括智能家居中枢、工业设备监控、实验室自动化、边缘AI推理节点等。
章节 08
NeoMind展现现代边缘AI系统设计范式:Rust的内存安全与异步性能、LLM原生支持、IoT深度整合、安全隔离机制、开发者友好(480+单元测试、完整CLI、扩展SDK)。作为开源项目,为下一代智能边缘设备提供完整参考实现,模块化设计便于定制扩展。