Emotion Probes Visualiser：实时可视化大语言模型的情感轨迹

本文介绍一个基于Anthropic情感概念研究的开源工具Emotion Probes Visualiser，能够实时提取和可视化大语言模型（LLM）生成文本过程中的情感向量变化。该工具为理解模型内部情感机制提供直观界面，兼具研究、开发与教育价值，支持TinyLlama模型，采用前后端分离架构，可帮助用户直观'看见'模型生成时的情感倾向。

大语言模型是否能'理解'或'表达'情感是AI研究热点。Anthropic团队在《Emotion Concepts and their Function in a Large Language Model》中提出方法：通过对比模型处理情感激发文本与中性文本时的隐藏层激活差异，提取代表特定情感概念的'情感探针'向量，为理解模型情感机制提供可量化工具。

1. 情感向量提取

使用TinyLlama模型（约2GB显存需求），对比处理情感激发文本（如'我感到愤怒'）和中性文本（如'我感到平静'）的隐藏层激活，计算出代表愤怒、喜悦等情感的向量，捕捉模型内部情感神经表征。

2. 实时相似度计算

生成文本时，实时提取每个新token的隐藏状态，用余弦相似度计算与预定义情感向量的匹配程度，得到连续情感分数反映当前情感倾向。

3. 交互式可视化

前端用React和Vite构建，通过Server-Sent Events（SSE）接收后端数据，展示：实时折线图、token对应情感分数、图表高亮交互、多情感维度切换。

后端（Python）

• FastAPI提供高性能异步API
• uv管理依赖
• 支持CUDA加速（可选，可回退CPU）
• 启动时预加载模型减少延迟

前端（Node.js/React）

• Vite构建工具链
• SSE实现实时数据流
• 交互式图表展示情感轨迹

硬件要求

• Python3.11+
• Node.js18+
• 8GB+内存（模型加载约4GB）
• GPU可选（支持CUDA）

研究者

验证情感操控和模型可解释性假设的实验平台，观察提示词对情感轨迹的影响，测试干预策略效果。

开发者

了解生成过程情感变化，设计更可控AI应用（如客服机器人保持中性/积极tone，创意写作工具引导特定情感风格）。

教育者

将抽象'隐藏层激活'转化为可视化情感曲线，帮助学生理解LLM内部工作机制。

开发者计划添加功能：

• 支持更大模型（Llama2、Mistral等）
• 情感操控（主动引导生成目标情感）
• 轨迹数据导出
• 深色模式

注意：更大模型需重新提取情感向量（不同模型隐藏空间表征差异）。作者维护姊妹仓库emotion-concepts，记录研究复现过程（向量提取、操控、评分方法）。

Emotion Probes Visualiser将前沿AI可解释性研究转化为实用开源工具，让用户'看见'LLM情感维度，为情感可控生成、模型调试和教育普及开辟新可能，是AI可解释性和情感计算领域值得探索的项目。