从零实现经典机器学习算法：Rice大学CMOR 438课程开源教学项目解析

Rice大学CMOR438/INDE577课程学生Qiushi Han开源了rice_ml项目，用纯NumPy从零实现14个经典机器学习算法，包含45个单元测试和12个教学Notebook。该项目旨在帮助学习者深入理解算法底层原理（而非仅调用API），提供透明、可学习的代码资源，兼顾教学清晰度与工程实用性。

在深度学习框架高度封装的今天，许多开发者对底层算法原理一知半解。rice_ml作为课程教学项目，核心理念是算法透明性与数学直觉：代码直接对应数学公式，避免高级抽象。项目采用现代Python包管理标准（pyproject.toml），具备完整CI/CD流水线，45个单元测试通过GitHub Actions自动运行，达到可维护的开源项目水平。

监督学习模块

涵盖线性回归（OLS/Ridge/梯度下降）、逻辑回归（sigmoid/交叉熵）、KNN、感知机（Rosenblatt规则）、MLP（反向传播）、决策树（信息增益/方差缩减）等，其中随机森林在Wine数据集达100%准确率。

无监督学习模块

包含K-Means（Lloyd算法+肘部法则）、DBSCAN（密度聚类+噪声标记）、PCA（特征值分解+95%方差保留）、标签传播（半监督场景20%标注达87.5%准确率）等。

项目提供完整工具链：

• 预处理：StandardScaler/MinMaxScaler标准化、分层抽样；
• 评估指标：准确率、MSE、R²、混淆矩阵、精确率/召回率；
• 教学Notebook：用真实数据集（糖尿病、乳腺癌、葡萄酒、数字识别等）演示算法，形成系统学习路径。

• 教育者：可直接用于课堂，支持学生修改实验（如调整距离度量、树分裂准则）；
• 自学者：填补理论与工业代码 gap（比scikit-learn的Cython源码更友好）；
• 面试者：提供手写算法参考（反向传播、决策树递归等经典实现）。

工程层面：采用src目录布局、pyproject.toml（符合PEP517/518）、pytest测试覆盖、CI流水线保障质量。 算法层面：注重数值稳定性，如梯度下降学习率调度、K-Means多次随机初始化、PCA特征值排序等细节。

rice_ml证明高质量教育代码可兼顾教学与工程价值。项目采用MIT协议，允许自由使用修改，适用于课程参考、面试复习、算法基准测试。在AI教育中，这种从零构建的方式将助力培养下一代AI人才。