大语言模型中的国籍偏见：全球多数群体在AI叙事中的代表性伤害

最新研究揭示主流大语言模型在生成叙事时存在系统性国籍偏见，非西方国家国民身份被严重刻板化、边缘化，负面描绘概率比正面高出50倍以上。本研究围绕LLM的文化偏见问题展开，探讨其背景、方法、发现及应对策略，旨在揭示AI叙事中全球多数群体面临的代表性伤害。

随着大语言模型（LLMs）在日常生活、企业应用乃至政府决策中的广泛部署，一个日益严峻的问题浮出水面：这些模型是否在无意中编码并传播着对全球多数群体（Global Majority）——即非西方、非白人群体——的有害偏见？

从模拟难民面试到创意写作，LLM生成的文本正在塑造人们对世界各地不同文化群体的认知。然而，这些模型主要基于英语语料训练，其文化视角往往以美国为中心。当模型被要求生成涉及特定国籍人物的叙事时，它们是否会公平、多元地呈现这些群体，还是会落入刻板印象的陷阱？

本研究采用开放式叙事生成任务，系统评估了多个主流LLM（包括GPT系列等）在处理不同国籍身份时的表现。研究人员设计了一系列提示词，要求模型生成包含特定国籍人物的短篇故事或人物描述。

关键设计特点包括：

• 国籍多样性覆盖：测试涵盖了全球多个地区的国籍身份，包括非洲、亚洲、拉丁美洲、中东等地区的国家，以及美国等西方国家作为对照
• 中性叙事场景：避免在提示词中预设任何正面或负面的语境，让模型自由发挥，以观察其内在的"默认"叙事倾向
• 对照实验：通过替换提示词中的国籍标识（如将"American"替换为其他国籍），测试偏见是否源于简单的逢迎（sycophancy）行为

1. 权力中性叙事的缺席

研究发现，来自边缘化国家的身份在"权力中性"的故事中严重缺位。当模型被要求生成不涉及权力关系的日常场景时，非西方国籍人物的出现频率显著低于美国等西方国籍人物。这种"代表性抹除"意味着全球多数群体在AI叙事中几乎成了隐形人。

2. 负面刻板印象的过度呈现

更令人担忧的是，当非西方国籍人物确实出现时，他们极大概率被置于从属、弱势或负面的角色中。数据显示，针对边缘化国家身份的负面人物描绘比正面或主导性描绘高出50倍以上。 这种偏见不是随机分布的，而是呈现出明显的模式：

• 来自发展中国家的角色更可能被描述为贫困、受困、需要援助
• 特定地区的国籍更可能与冲突、暴力或社会动荡联系在一起
• 人物的职业、教育背景和社会地位往往被刻板化地简化

3. 美国中心主义的放大效应

研究还发现，当提示词中包含"American"等美国国籍标识时，模型对其他国籍的偏见会被进一步放大。这表明模型内部存在一种隐性的文化等级观念，将美国置于叙事的中心位置，而将其他国家边缘化。

4. 偏见并非源于逢迎

一个关键的问题是：这些偏见是否仅仅是模型在"讨好"用户（sycophancy）——即因为训练数据中美国相关内容更多，所以模型倾向于生成美国中心的内容？ 研究通过巧妙的对照实验排除了这种解释。即使研究人员将提示词中的美国国籍替换为其他国籍，模型的偏见模式依然保持一致。这说明问题不在于模型在迎合用户，而在于其内部表征本身就存在系统性的文化偏见。

这些代表性伤害的产生并非偶然，而是当前LLM开发范式的结构性问题的体现：

数据偏见：主流LLM的训练数据主要来自英语互联网，其中美国视角和西方叙事占据主导地位。全球多数群体的文化、历史和社会现实在这些数据中被边缘化或片面呈现。

标注偏见：即使是人工标注或RLHF（人类反馈强化学习）过程，也可能因为标注者的文化背景而引入偏见。当标注团队缺乏全球多样性时，他们可能对某些文化刻板印象"视而不见"。

算法放大：Transformer架构的自注意力机制可能在训练过程中放大数据中的统计模式，使得原本隐含的偏见变得更加显著和固化。

这些看似"抽象"的偏见问题实际上有着严重的现实后果：

难民与移民评估：当LLM被用于模拟难民面试或评估移民申请时，对特定国籍的负面偏见可能直接影响决策的公正性。

内容审核与监控：如果LLM被用于内容审核，它们可能对来自某些国家的用户生成内容更加"敏感"，导致不公平的审查或标记。

教育与文化传播：当学生或研究者使用LLM生成关于不同文化的叙事时，这些偏见会被进一步传播和强化，形成恶性循环。

商业决策与市场偏见：在全球化的商业环境中，基于LLM的市场分析或客户画像工具可能对某些地区的消费者持有偏见，影响商业公平性。

面对这些系统性偏见，研究者们提出了几个关键方向：

以全球多数群体为中心的方法论：传统的AI伦理研究往往以西方视角为出发点，而有效的解决方案需要将全球多数群体的经验和需求置于核心位置。这意味着在问题定义、数据收集、模型评估等各个环节都需要纳入多元化的声音。

文化敏感的数据策展：需要主动收集和整理来自全球各地的高质量、多元化的语料，特别是那些在当前训练数据中被边缘化的语言和文化的代表性内容。

多元化的人工反馈：RLHF过程中的标注团队需要真正具有全球代表性，包括来自不同国家、语言和文化背景的专业人员。

偏见检测与缓解工具：开发专门针对文化偏见和代表性伤害的评估工具和缓解技术，将其纳入模型开发和部署的标准流程。

政策与监管框架：需要建立国际层面的AI伦理标准和监管机制，确保LLM的开发和应用不会加剧全球不平等。

这项研究揭示的不仅是技术问题，更是深层的权力和知识生产问题。当LLM系统性地贬低全球多数群体时，它反映并强化了现实世界中存在的不平等结构。

解决这一问题不能仅仅依靠技术修补，而需要整个AI生态系统的转型——从谁拥有数据、谁定义问题、谁评估模型，到谁从AI技术中获益。只有当我们真正将全球多样性视为核心价值而非边缘考量时，AI才能成为一个促进理解而非加深隔阂的工具。

正如研究者所呼吁的：我们需要质疑那种不加批判地将美国开发的LLM应用于全球分类、监控和表征的做法。技术的全球化必须与伦理的全球化同步推进。