NCERT 3B：面向教育普惠的轻量级推理模型，可在低配置设备离线运行

NCERT_3B_v0.1是一个30亿参数的轻量级推理模型，基于印度NCERT教材数据通过GRPO方法微调，经4-bit量化后可在仅3-6GB内存的低端设备上100%离线运行，致力于弥合教育领域的数字鸿沟。

全球范围内优质教育资源分配极不均衡，许多发展中国家学生无法稳定访问互联网或使用云端AI工具。主流大语言模型参数规模大，需昂贵GPU和稳定网络，排斥了最需要帮助的学习者。NCERT_3B项目目标是打造足够小、快、完全离线的模型，让资源匮乏地区学生享受AI辅助学习便利。

30亿参数的精巧设计

NCERT_3B采用30亿参数规模，平衡内存占用、推理速度与表达能力。

GRPO微调方法

采用Group Relative Policy Optimization（GRPO）微调，无需单独奖励模型，组内相对比较估计优势函数，计算效率更高。

4-bit量化与GGUF格式

用Unsloth进行4-bit量化，导出为GGUF格式（llama.cpp定义，专为CPU推理优化），模型文件缩减，可在3-6GB RAM设备流畅运行。

模型训练数据来自NCERT教材，覆盖6至12年级核心学科，是印度公立学校标准教材，具有广泛代表性。选择原因：数据质量有保障（严格审核）、覆盖面广（多学科多年级）、直接服务目标用户（印度大量学生依赖NCERT教材）。

隐私保护

学生交互数据保留在本地，不上传云端。

零网络依赖

无论网络状况，随时可用，适合农村等网络薄弱地区。

低成本硬件适配

支持3-6GB RAM设备，入门级手机或低端笔记本均可运行，降低使用门槛。

个性化学习助手

解答NCERT教材概念、习题，提供解释与引导。

作业辅导与答疑

针对作业难题提供提示和思路，促进交互式学习。

考试复习工具

快速回顾重点，自我测试查漏补缺。

教师备课辅助

帮助准备教学材料，获取不同角度解释方式。

项目开源发布，鼓励社区贡献：教育工作者可微调适配本地课程，开发者可集成到教育应用。使用Unsloth和llama.cpp等开源工具，确保性能与兼容性。

局限性

3B参数模型在复杂推理和多语言处理方面有局限，适合处理NCERT相关教育任务，超出范围查询表现不佳。

未来方向

扩展训练数据覆盖更多学科年级、探索更高效微调方法、开发配套UI降低使用门槛。