IIT-ANN：用整合信息理论量化神经网络的意识度量

IIT-ANN是一个将整合信息理论（IIT）与神经网络训练相结合的开源框架，旨在解决传统IIT应用于神经网络时面临的计算复杂度高、难以实时观察整合信息变化的问题。该框架整合PyTorch训练、PyPhi库IIT计算和Three.js实时可视化，帮助研究者理解神经网络的意识相关特性，通过实时计算Φ值（意识度量指标）并可视化，推动意识科学与人工智能的交叉研究。

整合信息理论（IIT）是当代神经科学和意识研究领域最具影响力的理论之一，提出意识可量化为系统内部信息整合程度，用Φ值表示（Φ越高，信息整合越强，理论上对应更高意识水平）。但传统IIT计算需构建状态转移概率矩阵（TPM）并穷举所有系统分区，复杂度随神经元数量指数增长，难以在神经网络训练中实时观察整合信息变化。IIT-ANN项目为此而生，构建端到端框架，整合PyTorch训练、PyPhi计算和Three.js可视化，支持训练时实时观察Φ值动态变化。

项目采用前后端分离架构： 后端系统（Python）：Flask服务器（提供RESTful API和WebSocket实时通信）、PyTorch训练引擎（支持MNIST等数据集训练）、PyPhi集成（精确Φ值计算）、状态提取模块（提取隐藏层激活状态）。 前端可视化（Three.js）：3D神经网络可视化（动态展示神经元激活和连接强度）、TPM矩阵热图（实时显示状态转移概率）、Φ值趋势图（绘制训练中Φ变化曲线）、交互控制面板（调整训练参数和实时控制）。 数据流：每个epoch结束后，后端提取隐藏层激活状态→二值化→构建TPM→调用PyPhi计算Φ值→通过WebSocket推送到前端更新可视化。

状态提取与二值化

训练中隐藏层神经元激活值为连续浮点数，需转换为离散二值状态：激活值超过阈值记为1，否则0，n个神经元对应n位二进制状态。

TPM构建

TPM是2^n×2^n矩阵，元素表示状态转移概率。项目通过持续采样隐藏层状态估计转移概率，网络权重变化会影响TPM模式。

Φ值计算原理

Φ衡量系统不可分解为独立子系统的信息量：1. 考虑所有系统分区方式；2. 计算每个分区子系统间有效信息（EI）；3. 找出使EI损失最小的最小信息分区（MIP）；4. Φ为原始系统EI与MIP后子系统EI之和的差值。PyPhi库实现IIT3.0算法处理复杂因果结构。

Three.js前端提供沉浸式3D体验： 神经网络动画：神经元以节点呈现，连接为线条，激活神经元有脉冲动画，连接粗细反映权重强度，可观察网络连接模式演化。 TPM热图：彩色热图展示状态转移概率，颜色深浅表示概率高低，帮助理解状态动态变化规律。 Φ值追踪：实时折线图显示每个epoch的Φ值，观察Φ随训练进程的变化趋势，探索网络结构与整合信息的关系。 交互控制：选择模型架构（支持MLP）、设置训练轮数、启停训练，手动触发MIP计算查看分区详情。

IIT-ANN框架的应用场景包括： 意识科学研究：量化神经网络整合信息，为人工意识理论提供实证数据，探索架构/训练策略对Φ值的影响。 网络可解释性：Φ作为新的复杂度度量，帮助理解网络架构在特定任务上表现更好的原因（高Φ可能对应更强信息整合能力）。 神经形态计算：指导设计高整合信息效率的神经网络架构，推动接近生物神经系统的计算模型发展。 教育演示：直观可视化使IIT理论易于理解，适合教学和科普。

当前局限：

1. 计算复杂度：大规模网络Φ计算耗时，建议从少量神经元（如6个）开始，提供简化计算选项。
2. 二值化损失：连续激活值二值化丢失信息，可能影响Φ准确性，未来需更精细的状态离散化方法。
3. 单一任务：目前支持MNIST分类，需扩展更多架构和任务。 未来方向：添加更多模型架构、实现模型保存/加载、开发对比分析工具、优化大规模网络Φ计算性能。

项目提供完整部署文档，支持Python虚拟环境本地运行：后端Flask服务器默认在5000端口，前端通过Python http.server在8000端口提供服务，两者通过WebSocket实时通信。对于希望深入IIT理论或探索神经网络意识度量的研究者，IIT-ANN提供功能完整、易于上手的实验平台，将深奥理论转化为可交互工具，为交叉研究开辟新可能。