东南大学团队提出流式安全检测新方法：SPRT 框架实现 LLM 实时毒性内容拦截

东南大学研究团队提出基于序列假设检验（SPRT）的流式安全检测框架，可在大型语言模型（LLM）生成过程中实时检测毒性内容，实现77%-96%的Token节省。该框架理论完备，能严格控制误报和漏报边界，且已开源，为AI安全领域带来重要突破。

随着LLM能力提升，生成内容安全性成为焦点。传统'生成后检测'模式存在局限性：长文本生成时用户可能提前暴露于有害内容，且浪费计算资源。流式检测（生成中实时监测拦截）是解决方向，但需平衡检测准确性与早期判断，同时控制误报漏报边界。

东南大学团队提出Contextual SPRT框架，核心是累积对数似然比监测：对每个生成Token，计算其属于毒性/安全内容的概率比并累积对数比值，达到预设阈值时做出判断。该方法理论上可控制误报率（α≤0.05）和漏报率（β≤0.10）。此外，通过先验概率参数π自适应调整，应对毒性内容比例不平衡场景。

团队在四个数据集测试：

• CivilComments（5000条，毒性率8.0%）
• BeaverTails（3021条，毒性率57.4%）
• PKU-SafeRLHF（3000条，毒性率58.3%）
• Qwen3GuardTest（651条，毒性率100%） 结果显示Token节省率77.3%-96.1%，Qwen3GuardTest上F1分数达100%，表现优异。

团队已开源完整实现，核心组件包括：

1. SPRTDetector类：封装SPRT算法逻辑，便于集成；
2. 校准模块：温度缩放技术校准分类器输出；
3. 实验框架：提供实验脚本与分析工具。 示例代码可快速集成检测器，支持流式检测。

该框架填补流式安全检测技术空白，开源降低门槛。应用场景包括：

• 在线内容审核：实时拦截有害内容；
• 模型安全评估：红队测试工具；
• 训练数据筛选：快速过滤有毒样本；
• 交互式AI系统：保障聊天机器人等实时安全。

东南大学团队的工作展示了统计学习理论在AI安全领域的潜力。SPRT框架兼具理论保证与实践价值，开源实现推动技术普及，为构建更安全可靠的AI系统提供理论与实践基础。