OWASP发布大语言模型应用安全Top 10清单：生成式AI时代的安全指南

OWASP GenAI安全项目正式发布全球首个系统性大语言模型（LLM）应用安全Top10清单，为开发者、数据科学家、安全专家提供风险评估框架，针对生成式AI爆发带来的提示注入、模型越狱等新安全挑战，填补行业在LLM应用安全标准领域的空白。

随着ChatGPT、Claude等LLM应用爆发式增长，生成式AI改变软件开发范式，但带来传统Web安全框架无法覆盖的特有风险（如提示注入、模型越狱、训练数据投毒）。OWASP GenAI安全项目推出Top10清单，是全球首个系统性LLM应用安全标准文档。

OWASP GenAI安全项目是全球性开源倡议，致力于识别、缓解生成式AI安全隐私风险，计划扩展到更广泛生成式AI领域。受众包括LLM应用开发者、数据科学研究者、企业安全团队、技术决策者等。

核心风险涵盖两方面：1.传统漏洞的LLM特异性表现（提示注入攻击、训练数据泄露、第三方供应链风险）；2.LLM特有挑战（模型越狱绕过安全对齐、幻觉生成错误信息、代理工具未授权操作）。

项目采用严格治理流程：所有变更需PR提交，主分支受分支保护；制定2026年发布路线图，含多个冲刺阶段与里程碑，确保清单质量与更新节奏。

清单价值：1.提供统一术语与风险分类框架，促进团队沟通；2.作为安全评估与合规审计基准；3.通过开源协作汇集全球智慧，持续演进适应技术发展。

欢迎社区通过GitHub提交Issue/PR、加入OWASP Slack频道参与讨论。未来计划扩展清单至多模态模型、AI代理系统等更广泛生成式AI安全领域。