Red Set ProtoCell：双智能体架构的自动化AI红队测试引擎

Red Set ProtoCell是一款开源的AI红队测试引擎，采用独特的Sniper/Spotter双智能体架构，通过进化算法和自适应攻击策略，系统性探测大语言模型（LLM）的未知失效模式，为AI安全研究提供可复现、可分析的漏洞发现能力。其核心价值在于从被动响应转向主动发现，助力构建更可靠的AI系统。

随着LLM在各行业广泛应用，AI安全问题日益凸显。传统安全测试方法仅能发现已知问题，而未知失效模式才是真正风险所在。Red Set ProtoCell（RSP）应运而生，它不仅是合规检查工具，更是主动出击的AI安全研究平台，旨在解决传统测试的局限。

RSP的核心创新是双智能体架构：

• Sniper智能体：攻击发起者，采用进化算法（遗传算法+突变策略）生成多样化对抗提示，针对政策违规、越狱攻击等优化，探索新攻击路径。
• Spotter智能体：结果评估者，通过三层评分分类法（语言安全层、安全可利用性层、认知稳定性层）客观分析模型响应，量化失效严重程度。

这种分工形成完整攻击-评估闭环，确保系统性与客观性。

RSP的工作流程为持续优化的闭环：

1. 生成：Sniper根据进化策略生成对抗提示，针对特定安全边界探测。
2. 执行：通过API接口发送提示到目标LLM（支持OpenAI、Anthropic等主流模型）。
3. 评估：Spotter应用三层评分法分析响应，记录失效与否及严重程度。
4. 进化：基于评估结果，适应度引导选择机制优化下一代攻击策略，发现更深层次漏洞。

RSP的技术特色包括：

• 进化智能：遗传算法+迭代适应度评分，动态调整攻击策略，提升效果。
• 锁定策略模型：攻击规则、适应度函数等版本化且运行时不可变，确保结果可复现与审计。
• 伦理边界保护：内置EGG机制，防止生成CSAM、生物武器等违规内容，确保测试在伦理框架内。
• 安全默认设计：默认隔离目标、范围限制（迭代次数/令牌预算）、敏感数据非持久化。

RSP的应用场景与价值：

• 企业级AI风险评估：早期发现高影响失效、提供量化安全评估、替代临时测试流程、减少部署后暴露。
• AI安全研究：标准化漏洞发现框架、支持可复现研究结果、探索传统方法难以识别的新型失效模式。

需明确RSP的局限性与定位： RSP不是合规工具、内容过滤器、基础设施渗透测试框架、恶意软件生成器等。其定位是进攻性安全研究工具，仅用于受控环境中发现AI模型弱点，非生产环境实时防护工具，也不能替代人类安全研究人员。

Red Set ProtoCell代表AI安全测试新范式：从被动响应转向主动发现，静态测试转向动态进化。通过双智能体架构与进化算法结合，系统性探测LLM安全边界，为AI安全研究与风险评估提供有力支持。在AI快速发展的今天，主动式安全测试对构建可靠AI系统至关重要。