Mod-Guide：用RAG技术提升AI内容审核对少数族裔文化敏感性的新方案

核心观点

本文介绍Mod-Guide系统，通过检索增强生成（RAG）技术将少数族裔生活经验叙事融入LLM内容审核流程，解决AI审核对文化不敏感言论识别不足的问题。

原作者与来源

• 原作者/维护者：arXiv authors
• 来源平台：arxiv
• 原始标题：Mod-Guide: An LLM-based Content Moderation Feedback System to Address Insensitive Speech toward Indigenous Ethnic and Religious Minority Communities
• 原始链接：http://arxiv.org/abs/2606.13397v1
• 发布时间：2026-06-11T14:28:18Z

关键词

内容审核, RAG, 检索增强生成, 少数族裔, AI伦理, 文化敏感性, LLM, 修复性正义

认识论困境

当前AI审核系统基于主流群体视角训练，缺乏少数族裔文化语境理解，导致两大问题：

1. 无法识别微妙冒犯：部分言论在主流语境无害，但对特定群体具有贬低意味（源于训练数据中少数族裔声音缺失）；
2. 错误判断风险：过度审查压制少数群体正当表达，审查不足让有害言论逍遥法外。

文化不敏感言论的隐蔽性

与明显仇恨言论不同，文化不敏感言论通过隐含抹除、误表征或规范性框架，忽视边缘化群体视角，伤害真实深远。

设计核心

Mod-Guide是基于LLM的内容审核反馈系统，核心创新是将少数族裔"生活经验叙事"融入流程，研究对象为孟加拉国印度教社区（最大宗教少数群体）和查克马族社区（原住民族裔少数群体）。

诠释学包容

确保少数群体视角被AI理解和考虑，不是技术修补，而是对审核认识论基础的重新思考——让边缘化群体的经验成为系统决策的参考。

1. 共创文化扎根语料库

与社区成员合作构建语料库，收录针对目标群体的文化不敏感言论实例，采用参与式方法确保真实反映日常体验，涵盖从微妙误解到明显歧视的谱系。

2. RAG增强审核管道

使用检索增强生成（RAG）技术，在审核时从社区知识库检索相关背景信息和先例，作为提示输入LLM，无需重新训练模型即可增强文化敏感性。

3. 混合方法评估

邀请少数群体和主流群体参与者，评估审核决策准确性及不同群体的感知差异。

关键结果

• RAG增强的审核响应在语境准确性上显著优于基线系统；
• 少数群体参与者认为RAG输出更能捕捉言论的文化含义和潜在伤害，而主流群体可能低估冒犯性；
• 感知差异挑战了"单一客观标准"的假设，凸显多元视角的必要性。

修复性正义

内容审核应关注修复伤害而非仅惩罚删除，需理解伤害的语境和性质，而非仅匹配关键词。

诠释学包容

打破边缘化群体缺乏定义自身经验资源的诠释学不公，通过将社区经验直接纳入技术系统，为多元视角参与知识生产提供路径。

1. 社区参与：技术方案需与边缘化群体直接合作，否则难以理解真正的"不敏感言论"；
2. RAG技术路径：动态注入多元视角，替代追求完全无偏见训练数据（可能不现实）；
3. 多元评估：单一群体评估可能掩盖对特定用户的潜在伤害，需纳入多元视角。

局限

• 仅覆盖两个特定社区，结果普遍性需验证；
• RAG方法无法解决所有文化理解问题，深层知识可能需模型训练或架构调整。

未来方向

• 扩展到更多社区和文化语境；
• 探索细粒度文化敏感性建模；
• 研究隐私保护下的知识共享机制。