Zing 论坛

正文

从零构建脉冲神经网络:从单神经元到现代 Hopfield 网络

一个仅用 NumPy 和 Matplotlib 从零实现的完整脉冲神经网络项目,涵盖 LIF 神经元、Hodgkin-Huxley 模型、STDP 学习、Hopfield 记忆网络,直至与 Transformer 注意力机制的联系。

脉冲神经网络LIF神经元Hodgkin-HuxleySTDPHopfield网络TransformerNumPy计算神经科学
发布时间 2026/06/01 07:44最近活动 2026/06/01 07:52预计阅读 3 分钟
从零构建脉冲神经网络:从单神经元到现代 Hopfield 网络
1

章节 01

从零构建脉冲神经网络项目核心导读

本项目由Geomaniac15在GitHub发布,以NumPy、Matplotlib等基础工具从零实现完整的脉冲神经网络体系,涵盖单神经元模型(LIF、Hodgkin-Huxley)、突触传递、兴奋-抑制网络、STDP学习规则、Hopfield记忆网络,并揭示其与Transformer注意力机制的深层联系,为学习者提供从生物物理学到现代AI的完整知识路径。

2

章节 02

项目背景与愿景

项目愿景:从第一性原理出发,理解生物神经回路的计算基础及其与现代AI的联系,完全从零实现,不依赖任何深度学习框架,构建从单神经元生物物理学到现代Hopfield网络与Transformer注意力机制的知识弧线。

3

章节 03

核心模型与实现方法

  1. 单神经元模型:

    • 漏积分-发放(LIF)神经元:基于微分方程 τ_m dV/dt = -(V - V_rest) + R·I(t),模拟膜电位积分与泄漏,超阈值发放脉冲并进入不应期。
    • Hodgkin-Huxley模型:包含电压门控Na+、K+离子通道,通过电导方程模拟动作电位的产生与离子动力学。
  2. 网络模型:

    • 双神经元突触传递:单向连接,突触电流用指数衰减核模拟神经递质清除。
    • 100神经元兴奋-抑制(E-I)网络:80兴奋/20抑制神经元,随机稀疏连接,基于电导的突触,STDP学习规则。
    • STDP联想记忆网络:20输入/10输出神经元,侧向抑制(赢者通吃),通过STDP调整前馈权重。
    • Hopfield网络:
      • 二进制版:Hebbian权重学习,符号更新规则,理论容量约0.14N。
      • 连续版:softmax替换符号更新,与Transformer注意力机制数学等价(Attention(Q,K,V) = softmax(QK^T/√d)·V)。
  3. MNIST应用: 采用Top-k注意力、原型记忆、动量更新等方法,实现数字补全任务。

4

章节 04

关键实验结果与发现

  • LIF神经元: 输入2nA时发放频率约36Hz,临界电流1.5nA(低于则不发放)。
  • 双神经元: 神经元B在A脉冲后约10ms发放,验证因果突触传递。
  • E-I网络: 涌现15Hz节律振荡,同步/异步状态转换模拟癫痫与健康皮层活动差异。
  • Hodgkin-Huxley模型: 生成真实动作电位(峰值+40mV,宽度约3ms),自然涌现不应期。
  • STDP网络: 训练后可识别20%位翻转的损坏模式,实现模式分离。
  • Hopfield网络:
    • 二进制版:N=100时容量约14个模式,30%噪声下完美检索。
    • 连续版:容量提升至500+模式,接近完美检索。
  • MNIST补全: 30%噪声下分类准确率57.2%,像素重叠度89.6%,0/1/7数字最可靠,2/3/8易混淆。
5

章节 05

项目总结与学习价值

本项目是罕见的从零完整实现脉冲神经网络的范例,不依赖PyTorch/TensorFlow等框架,通过NumPy手工构建从单神经元到现代Hopfield网络的全部内容。其价值在于:

  1. 生物启发: 从真实神经元行为获取灵感,理解神经计算本质。
  2. 数学基础: 深入掌握各模型背后的物理与数学原理。
  3. 逐步构建: 从简单到复杂,每一步验证理解。
  4. 跨领域联系: 揭示经典神经网络与现代Transformer的深层关联。

对希望深入理解神经网络原理的学习者而言,是极佳的资源,帮助超越API调用,真正掌握神经计算的核心。