从零开始用 NumPy 实现神经网络：理解反向传播的本质

本文介绍一个用NumPy从零构建前馈神经网络的项目，以经典XOR问题为案例，深入解析反向传播算法核心机制，帮助读者理解深度学习底层原理。项目旨在填补框架API使用中对底层机制理解的空白，通过极简实现展示神经网络本质。

在PyTorch、TensorFlow等框架盛行的今天，开发者常依赖高层API却缺乏底层机制直观理解。本项目用NumPy从零构建网络，让学习者看到代码背后的数学原理。选择XOR问题作为案例，因其是神经网络发展里程碑：1969年Minsky证明单层感知机无法解决，多层网络与反向传播的出现才突破这一困境。

项目采用三层设计：

• 输入层：2个神经元，对应XOR的两个二进制输入；
• 隐藏层：4个神经元（解决XOR的最小规模），提取非线性特征（无此层则为线性分类器，无法处理XOR）；
• 输出层：1个神经元，用Sigmoid激活函数输出0-1概率值，表示类别1的概率。

Sigmoid激活函数

公式：σ(x)=1/(1+e^(-x))，作用是引入非线性（使网络学习复杂决策边界）和输出概率值，但存在梯度消失问题。

反向传播算法

核心步骤：

1. 前向传播：输入流经各层，计算预测结果与损失；
2. 反向传播：从输出层反向传递误差，用链式法则计算权重梯度，沿梯度反方向更新权重。 项目网络经10000次迭代训练，每次执行完整前向与反向传播以收敛到正确权重。

训练损失趋势：

• Epoch0：损失0.4965（接近随机猜测）；
• Epoch1000：损失0.4948（优化生效）；
• Epoch9000：损失0.0864（基本收敛）。 预测结果验证：

  输入	预测输出	期望值
  [0,0]	0.1013	0
  [0,1]	0.9269	1
  [1,0]	0.9201	1
  [1,1]	0.0593	0
  所有预测均接近期望值，证明网络成功学会XOR逻辑。

该项目虽小，但蕴含深度学习核心原理。学习者可通过它：

1. 理解张量运算（矩阵乘法在网络中的信号传播）；
2. 掌握梯度下降（权重更新的数学原理）；
3. 调试网络行为（观察损失曲线诊断训练状态）；
4. 建立超参数（学习率、隐藏层大小）作用的直觉。 是希望深入理解深度学习而非仅调用API者的极佳起点。

本项目以简洁方式展示神经网络本质：复杂框架背后是简单数学运算。理解基础后，使用高级工具更得心应手，遇问题能更好诊断。 对初学者建议：先运行代码观察结果，再逐行阅读源码，尝试修改网络结构或超参数，观察训练效果变化——动手+思考的方式更易建立深刻理解。