章节 01
【导读】GNAA:面向小型语言模型的可验证推理两阶段框架
GNAA是实验性两阶段智能体网络项目,针对资源受限场景下小型语言模型支持不足的痛点,通过多节点协作、评判回溯和工具增强,构建可观测可验证的推理流程,降低对单一强模型的依赖。
正文
一个实验性的两阶段智能体网络项目,通过多节点协作、评判回溯和工具增强,为小型语言模型构建可观测的推理与评估流程。
章节 01
GNAA是实验性两阶段智能体网络项目,针对资源受限场景下小型语言模型支持不足的痛点,通过多节点协作、评判回溯和工具增强,构建可观测可验证的推理流程,降低对单一强模型的依赖。
章节 02
现有LLM多智能体方案依赖强模型,资源受限场景支持不足。GNAA目标是构建可观测推理链条,串联智能体候选答案、评判评分、工具证据等,保持推理质量并减少单一模型依赖。
章节 03
章节 04
记忆系统含三种类型:工作记忆(短期上下文)、情景记忆(案例复用)、语义记忆(错误规避);RAG基于Qdrant向量库,支持高效语义检索,弥补小型模型知识不足。
章节 05
协议支持MCP/A2A/ANP,无缝集成智能体生态;评估适配GAIA(真实推理)和BFCL(函数调用),本地GAIA数据位于test/data/gaia/2023/,提供数据集加载器方便调试。
章节 06
分层架构:core/llm.py支持OpenAI兼容接口,灵活切换Ollama/vLLM等后端;环境变量支持多平台API;内置工具含安全计算器(AST解析)、搜索、记忆等,终端工具建议受控使用。
章节 07
项目处于开发阶段,核心模块可用,但包导入/测试入口等待完善;维护者有优化计划,其架构方向为小型模型能力增强提供探索路径。
章节 08
GNAA通过系统设计叠加能力,两阶段架构+评判回溯+多工具协同构成小型模型增强方案,为资源受限环境部署智能体提供参考范式。