从零开始实现多层感知机：纯NumPy神经网络完整实践

一个从零开始用纯NumPy实现的多层感知机项目，包含完整的神经网络架构、前向/反向传播、SGD与Adam优化器，以及乳腺癌分类实战案例。

• 原作者/维护者: Donghan5
• 来源平台: GitHub
• 原始标题: multilayer_perceptron
• 原始链接: https://github.com/Donghan5/multilayer_perceptron
• 发布时间: 2025年（项目活跃维护中）

该项目是一个教学导向的神经网络实现，目标是帮助学习者理解人工神经网络的基本原理。项目完全使用NumPy从零构建，不依赖任何深度学习框架，实现了完整的MLP架构，并将其应用于威斯康星乳腺癌数据集（Wisconsin Breast Cancer Dataset）进行二分类任务（恶性肿瘤 vs 良性肿瘤）。

数据集包含569个样本和30个特征，是一个经典的小型机器学习数据集，非常适合用于验证神经网络实现的正确性。

项目采用模块化设计，每个组件职责清晰：

负责将原始数据按80/20比例划分为训练集和验证集，支持固定随机种子以确保结果可复现。这一步骤对于防止数据泄露和获得可靠的模型评估至关重要。

实现了神经网络的前向传播和反向传播算法。支持可配置的隐藏层结构，默认配置为三层隐藏层，每层24个神经元。权重初始化支持He Uniform和Xavier Uniform两种策略，分别适用于ReLU和Sigmoid激活函数。

包含Sigmoid、ReLU、Softmax等激活函数的实现，以及交叉熵损失函数和One-Hot编码工具。这些基础组件是神经网络运算的基石。

实现了两种经典的优化算法：

SGD（随机梯度下降）：最基础的优化方法，使用单一全局学习率更新所有参数。

Adam（自适应矩估计）：结合了动量（Momentum）和RMSProp的优点，为每个参数维护一阶矩（梯度均值）和二阶矩（梯度平方的均值）估计，并通过偏差校正实现自适应学习率调整。