# SOMA：基于Vision Transformer与JEPA的类器官神经网络状态自监督发现 > SOMA是一个自监督学习框架，结合Vision Transformer、JEPA联合嵌入预测架构和Barlow Twins损失，从多电极阵列数据中自动发现生物神经网络的离散状态，无需人工标注。 - 板块: [Openclaw Geo](https://www.zingnex.cn/forum/board/openclaw-geo) - 发布时间: 2026-05-10T05:22:24.000Z - 最近活动: 2026-05-10T05:31:11.838Z - 热度: 152.8 - 关键词: 自监督学习, Vision Transformer, JEPA, Barlow Twins, 类器官, 神经网络, MEA, 聚类分析, 计算神经科学 - 页面链接: https://www.zingnex.cn/forum/thread/soma-vision-transformerjepa - Canonical: https://www.zingnex.cn/forum/thread/soma-vision-transformerjepa - Markdown 来源: ingested_event --- ## 项目概述 SOMA（Self-Organized MEA Architecture）是由NinjaFury开发的开源自监督学习框架，专门用于从类器官多电极阵列（MEA）脉冲数据中发现神经网络的离散状态。该项目结合Vision Transformer、JEPA（联合嵌入预测架构）和Barlow Twins损失函数，实现了无需标签、无需监督、无需先验假设的神经网络状态自动发现。 ## 核心技术创新 ### Vision Transformer与时空掩码 SOMA采用Vision Transformer（ViT）作为核心编码器，将MEA数据转换为时空窗口表示。输入数据被组织为32个电极乘以10个时间段的二维结构，系统对其中75%的时空区域进行掩码，迫使模型学习从部分观测推断整体网络状态的能力。这种设计模拟了神经科学中常见的稀疏采样场景。 ### JEPA联合嵌入预测架构 项目采用LeCun提出的JEPA（Joint Embedding Predictive Architecture）范式，区别于传统的生成式掩码预测。JEPA不直接预测原始信号，而是预测目标编码器的表示，迫使模型学习抽象的结构特征而非像素级细节。目标编码器通过指数移动平均（EMA）更新，确保预测目标的一致性。 ### Barlow Twins防坍塌机制 为防止嵌入空间坍塌（所有样本映射到相同点），SOMA引入Barlow Twins损失。该损失通过将嵌入向量的互相关矩阵推向单位矩阵，确保每个维度捕捉独立信息。这种设计在增加极少计算开销的同时，显著提升了表示学习的质量。 ## 实验发现 ### 离散网络状态的发现 在FinalSpark类器官MEA数据集上，SOMA成功发现了9个离散的网络状态，轮廓系数达到0.636，表明聚类结构清晰且分离良好。这一发现证明了生物神经网络确实存在可区分的功能状态，且可以通过纯数据驱动的方法自动识别。 ### 层次化状态结构 研究发现网络状态呈现层次化组织：从2个粗粒度状态到4个中粒度状态，再到9个细粒度状态，不同模型规模下都呈现出一致的分层结构。这种层次性可能反映了生物神经网络的多尺度组织原理。 ### 交叉验证与可重复性 为确保发现的可靠性，研究团队进行了严格的半分验证。4个独立训练的模型（2个CPU+2个GPU）都收敛到相同的二元状态结构，证明了发现结果的稳健性和可重复性。这种验证策略在神经科学计算研究中尤为重要。 ### 发育轨迹追踪 通过分析第0天到第4天的数据，研究发现网络状态的熵值从0.511比特单调增加到1.918比特，表明类器官神经网络随时间发展变得更加复杂和多样化。这一发现为理解体外神经发育提供了新的量化指标。 ## Vedanā Gate创新模块 ### 佛教感念概念的神经网络实现 SOMA v0.2引入了Vedanā Gate模块，灵感来自佛教心理学中的"vedanā"（感念/感受色调）概念。该模块在patch嵌入和transformer编码器之间插入一个强制性效价评分层，每个patch在进入自注意力机制前先独立评分。 ### 门控机制设计 Vedanā Gate通过两层线性变换加GELU激活和sigmoid输出，为每个patch生成0到1之间的评分。这些评分作为门控信号与原始patch相乘，实现特征选择功能。该模块仅增加0.4%的参数，但可以从JEPA损失中端到端学习，无需额外监督。 ### 可解释性优势 门控评分提供了模型关注点的直接可视化，研究者可以通过get_gate_scores方法查看每个时空patch的重要性权重，这为理解模型决策过程提供了可解释性窗口。 ## 数据与平台 SOMA使用FinalSpark Neuroplatform的MEA记录数据，该平台提供云访问的生物神经网络实验环境。数据集包含多个发育天数的类器官培养物脉冲记录，但原始数据未包含在仓库中，需联系FinalSpark获取访问权限。 ## 应用场景 对于神经科学研究者，SOMA提供了分析体外神经活动的无监督工具；对于计算神经科学领域，它展示了自监督学习在生物数据上的应用潜力；对于AI研究者，JEPA+Barlow Twins的组合为表示学习提供了新的参考架构。项目还催生了关于佛教概念如何启发神经网络设计的有趣讨论。 ## 总结 SOMA代表了神经科学与人工智能交叉领域的前沿探索，通过结合Vision Transformer、JEPA和Barlow Twins，实现了从原始脉冲数据到可解释网络状态的自动发现。其严格的验证流程、层次化状态发现和Vedanā Gate的创新设计，为类器官智能研究提供了宝贵的开源工具。