SecureGate：双层架构守护大模型安全的开源护栏系统

本文介绍SecureGate——一个基于Streamlit和Anthropic Claude构建的双层安全网关，旨在防御大模型面临的提示注入、越狱攻击、数据泄露等威胁。该系统通过实时输入输出拦截，为LLM应用提供安全防护。

随着LLMs在企业应用普及，其面临的安全威胁日益严峻：恶意提示注入、敏感数据泄露、越狱攻击、系统指令非法提取等，传统网络安全手段难以应对这些AI特有攻击向量。为此，Prompt-shield-AI项目（SecureGate）作为开源双层安全网关应运而生，专注保护下游LLM免受恶意提示和数据外泄威胁，基于Streamlit构建UI并集成Claude作为智能判断层，实现双向实时扫描。

SecureGate的核心是双层检测架构：

1. 正则表达式引擎：维护30+检测模式，快速识别已知攻击特征，标注严重级别（CRITICAL/HIGH/MEDIUM）。
2. LLM分类器：调用Claude进行深度语义分析，识别变形/编码/语义包装的复杂攻击，返回威胁存在与否、类别、置信度及理由。 两层结果融合为最终裁决（BLOCK/WARN/PASS），仅通过的内容才送往下游LLM，输出也会再次扫描。

SecureGate覆盖六大类LLM安全风险：

• 提示注入：识别覆盖系统指令的恶意输入（如"忽略之前所有指令"）；
• 越狱攻击：检测绕过安全过滤器的尝试（如DAN变种）；
• 数据库与日志外泄：拦截SQL注入及数据库连接字符串泄露；
• 密钥探测：识别API密钥、密码等敏感凭证暴露；
• 编码载荷：检测Base64编码、eval()/exec()混淆攻击；
• 输出泄露：防止系统指令或原始数据库响应泄露。

部署简洁：克隆仓库→安装依赖（streamlit、anthropic包）→运行主文件启动服务（默认8501端口）。系统提供4个功能标签页：

• Dashboard/Architecture：可视化管道架构，理解数据流与检测逻辑；
• Threat Tester：内置9个预设攻击载荷（含良性基线），一键测试检测能力；
• Live Sandbox：自定义提示测试环境，展示双向扫描详细日志；
• Audit Logs：记录拦截请求、置信度及缓解理由，支持审计与调优。

SecureGate适用于多种场景：面向公众的客服机器人、处理敏感数据的企业内部助手、合规要求高的金融/医疗AI应用等。作为开源项目，它不仅提供可运行代码，更展示系统化LLM安全防护思路，开发者可定制规则、集成其他LLM或扩展功能模块。

当前局限：依赖Anthropic Claude API（需有效密钥），离线部署或集成其他LLM需改造代码；正则规则库需持续更新以应对新攻击手法。未来改进方向：支持更多LLM后端、引入机器学习分类模型、实时威胁情报自动更新、更细粒度策略配置（灵活调整防护强度）。