LLM真的具有道德主体性吗？——关于采样、选择与道德责任的哲学辨析

标题：LLM真的具有道德主体性吗？——关于采样、选择与道德责任的哲学辨析

摘要：本文深入探讨大型语言模型是否具备道德主体性的核心争议，从哲学视角分析LLM的采样机制与真正选择之间的本质区别，揭示概率性输出与内在意向性之间的鸿沟。

关键词：LLM, 道德主体性, 意向性, 自由意志, AI伦理, 哲学, 采样机制, 道德责任

原作者/维护者：arXiv authors 来源平台：arxiv 原始标题：Why Sampling Is Not Choosing: Intentionality, Agency, and Moral Responsibility in Large Language Models 原始链接：http://arxiv.org/abs/2606.13441v1 来源发布时间/更新时间：2026-06-11T15:03:48Z

核心观点：本文认为LLM的采样机制不等于真正的选择，其输出缺乏内在意向性，因此不具备道德主体性，无法承担道德责任。

背景：AI能力提升引发的道德主体性争议

近年来，随着GPT、Claude等大型语言模型的能力不断提升，一个深刻的问题开始浮现：这些系统是否具有某种形式的"能动性"（agency）？它们能否被视为道德主体，承担道德责任？一些乐观的观点认为，LLM展现出的连贯对话、推理能力和规范性判断，暗示着某种原始形式的意向性或自主性。然而，这篇来自arXiv的最新论文提出了根本性反驳：采样不等于选择，概率性输出与真正的道德能动性之间存在不可逾越的鸿沟。

核心论点：道德责任需要何种能动性？

论文首先澄清关键概念：道德责任究竟要求什么？作者指出，真正的道德责任需要"承担承诺的能动性"，这种能动性必须建立在内在意向性和自我归因的行动之上。即道德主体必须能将行为视为"我的"，并对后果承担承诺。

这种能动性构成与道德责任相关的自由意志形式，不是简单因果决定论或随机性产物，而是基于理由选择的独特能力——当我们说一个人负责时，预设其本可选择不同行动，且选择基于对理由的理解评估。

LLM机制解析：概率采样与人类选择的本质区别

论文核心论证揭示LLM的本质工作机制：尽管模型能生成连贯输出，但运作是从数据中学到的概率性输入-输出映射。生成下一个词元时，并非"选择"，而是执行复杂条件概率分布采样。

这种采样的变异性与人类自由选择有本质区别：人类选择是基于理由的决断（权衡考虑后做出认为正确的行动），而LLM的"选择"仅是概率空间中的随机点，不"拥有"该选择作为承诺，也不受理由引导。

意向性辨析：LLM的衍生意向性与人类的内在意向性

论文区分两种意向性：内在意向性（意识主体直接拥有的心理状态，如信念、欲望）与衍生意向性（事物因与内在意向性主体的关系获得的意义，如文字符号）。

LLM的意向性属后者：输出的"意义"依赖人类设计者意图、训练数据中的语言使用及用户解释。模型本身不"理解"内容，只是操纵形式符号，语义来自外部。其输出既非承诺拥有，也不受理由引导。

回应反驳：意向立场、功能主义等观点的局限性

论文回应几种常见反驳：

1. 意向立场论证：将LLM视为理性行动者可预测行为，但实用主义描述不证明内在意向性（如恒温器的意向立场不代表真有信念）。
2. 功能主义论证：功能表现相似不代表心理属性相同，关键是是否涉及真正理解而非形式模拟。
3. 相容论：即使决定论为真，自由意志仍需自我归因和理由响应能力，LLM缺乏此能力。
4. 道德推理输出：模型仅模拟训练数据中的道德话语模式，不代表有道德理解（如鹦鹉学舌）。

实践启示：AI伦理治理的责任归属与拟人化警惕

研究结论对AI伦理治理有重要影响：若LLM无道德主体性，归咎模型是范畴错误。这强调人类设计者、部署者和使用者的责任。

同时提醒警惕拟人化偏见：与流畅对话系统交互易投射人类心理属性，保持概念区分对负责任AI开发部署至关重要。

结语：清醒认识LLM能力本质的重要性

本文提供严谨概念分析，帮助理解LLM能力的真正本质：既不否认其惊人能力，也不夸大哲学意义。采样≠选择，概率输出≠自由决定，形式道德话语≠真正道德理解。在AI快速发展的今天，这种清醒认识是避免概念混淆、做出明智决策的必要前提。