从零构建MNIST手写数字识别模型：多层感知机与优化算法对比实践

本项目基于MNIST数据集实现手写数字识别，核心采用多层感知机（MLP）神经网络，并系统性对比SGD、Adam、RMSprop、Adagrad等优化算法的性能表现。项目旨在帮助开发者理解算法选择对模型训练的实际影响，涵盖数据预处理、模型构建、训练优化到性能评估的完整机器学习流程。

原作者：Hibabg21 | 来源平台：GitHub | 原始链接：https://github.com/Hibabg21/projet_mnist_benguara | 发布时间：2026-05-24

手写数字识别是机器学习经典问题，MNIST数据集作为该领域的"Hello World"被广泛用于教学与算法验证。本项目不仅实现基础识别功能，更通过对比不同优化算法，帮助开发者直观理解算法选择对模型性能的影响。

项目核心架构为多层感知机（MLP）：输入层接收28×28像素的扁平化数据（784维），隐藏层提取特征，输出层生成0-9数字分类概率。

对比的优化算法包括：

• SGD：基础方法，通过小批量数据估计梯度更新权重
• Adam：结合动量法与RMSprop，自适应调整学习率
• RMSprop：指数移动平均归一化梯度，适合非平稳目标
• Adagrad：为每个参数分配不同学习率，适合稀疏数据

数据预处理：

1. 归一化：像素值从0-255缩至0-1
2. 扁平化：28×28二维图像转一维向量
3. 标签编码：数字标签转为one-hot编码

网络结构：

• 输入层：784神经元
• 隐藏层1：128神经元（ReLU激活）
• 隐藏层2：64神经元（ReLU激活）
• 输出层：10神经元（Softmax激活）

损失与评估：使用交叉熵损失函数；评估指标包括准确率、损失值、收敛速度。

SGD：优点是计算高效、内存占用小；缺点是易陷入局部最优、收敛慢、对学习率敏感。

Adam：优势在于自适应调整学习率，收敛速度快，对初始学习率不敏感，在MNIST等中小数据集上表现优异。

其他算法：

• RMSprop：适合循环神经网络或非平稳目标问题
• Adagrad：适合稀疏特征数据集（如文本分类）

算法选择直接影响训练时间、最终精度与资源消耗，实际项目中合适的算法往往比调整网络结构更能提升性能。

MNIST流程可迁移至复杂任务：

• 复杂手写体识别（EMNIST、SVHN）
• 文档扫描与数字化
• 银行支票自动识别
• 邮政编码自动分拣

本项目为机器学习初学者提供了完整实践案例，展示从数据准备到模型评估的全流程，强调算法选择的重要性（需根据任务与数据特点权衡）。

未来可探索方向：

• 引入卷积神经网络（CNN）提升准确率
• 实现数据增强提高泛化能力
• 将模型部署为Web服务实际使用