Noesis Tension：用大模型遥测技术解码提示词引发的表征压力

Noesis Tension项目提出创新遥测驱动方法，通过监测KV缓存动态、注意力机制和MoE路由模式，构建提示词诱导的表征压力分类体系，为AI安全与可解释性研究提供新视角，助力提前预警模型潜在风险行为。

传统大模型安全研究仅关注输入输出审查，无法预判内部状态变化。Noesis Tension核心理念是提示词会引发模型内部可测量的‘表征压力’，可提前预警幻觉、重复循环或安全边界试探。类比医学生命体征监测，KV缓存等指标能揭示认知状态转变。

第一层：KV缓存遥测

追踪范数漂移历史、滚动相干性历史、均值范数历史及漂移摘要统计，量化模型认知状态。

第二层：认知状态推断引擎

自动识别四种状态：安全程序性状态、符号重复漂移、自信幻觉轻量版、临界漂移。

第三层：MoE路由追踪

记录MoE架构模型生成步骤中激活的专家分布，揭示不同认知状态下的资源调用模式。

采用纯遥测分类策略，不受提示词编码影响，可检测越狱尝试。实验发现：Llama-3.1-8B在安全提示上张力值高于Mistral-7B；创意任务易误判为重复漂移；采用保守标记策略（张力≥0.67且峰值显著触发HIGH_TENSION）平衡误报漏报。

1. AI安全研究：为红队测试提供量化工具，识别微妙越狱模式；
2. 模型可解释性：观察不同模型/训练阶段的内部状态差异；
3. 生产监控：轻量化运行时监控，触发人工审核或自动重试；
4. 模型对比评估：补充传统基准测试，评估安全性与稳定性。

当前局限：创意内容分类精度待提升，模型间差异校准问题，单轮对话分析限制。未来方向：引入上下文感知特征区分有意识重复与失控循环，探索模型无关归一化方法，研究多轮对话跨轮张力累积。

Noesis Tension代表安全研究转向内部状态监测，提供更早风险预警，为理解模型黑箱打开窗口。项目代码已在GitHub开源（v3.0-stable版本），是AI安全与可解释性研究者的实用工具。