LLM驱动的规范性推荐系统：从利益相关者诉求到智能体形式化规则

本文探索了一种利用大型语言模型（LLM）提取利益相关者规范并形式化为智能体可执行规则的规范性推荐系统。核心目标是解决传统推荐系统难以平衡多方利益（如听众偏好、艺术家曝光、平台商业目标等）的问题，以DJ4ME音乐推荐平台为案例展开研究。

传统推荐系统（如协同过滤、内容推荐）常优化单一目标，难以显式处理复杂的价值权衡。规范性推荐系统则关注"道德/社会意义上正确的推荐"，源于对推荐系统社会影响的关注——算法不仅反映偏好，还可能塑造偏好、放大偏见、影响创作者生计。其核心假设是：利益相关者的自然语言关切可被理解为"规范"（隐性规则），如"新兴艺术家应有被发现的机会"。

项目技术路线分为两阶段：

1. 规范提取：使用LLM从利益相关者文本（访谈、政策、反馈）中识别规范性陈述，需区分描述性（现状）与规范性（应然）内容。
2. 形式化转换：将提取的规范映射为逻辑表示（如道义逻辑、规则系统），使推荐智能体决策时能显式考虑这些规范。

以DJ4ME为案例，音乐推荐场景涉及多方利益冲突：

• 听众：发现喜欢的音乐
• 新兴艺术家：曝光机会
• 成熟艺术家：维持粉丝基础
• 平台：用户留存与收入
• 音乐产业：版权与公平分配 过度优化用户短期满意度可能导致同质化，损害新兴艺术家；强制推广新内容则可能降低用户体验。项目尝试用LLM从中提取可操作规范。

优势：

• 语义理解：捕捉语言细微差别，识别隐含规范（无需明确道义词汇）。
• 上下文整合：整合碎片化诉求，构建连贯规范图景。
• 可扩展性：低成本处理大量文本，支持大规模应用。 挑战：
• 规范冲突：不同利益相关者的规范可能矛盾，需机制解决（优先级、加权、帕累托最优）。
• 形式化鸿沟：自然语言规范含糊，转换为精确规则易丢失细节或引入错误。
• 验证困难：缺乏客观评估标准，迭代优化复杂。

本项目处于多领域交叉：

• 价值对齐：AI安全核心议题，确保系统行为符合人类价值观，本项目是其在推荐领域的应用。
• 多目标优化：推荐系统长期课题，规范性方法将目标函数视为约束集合。
• 可解释AI：形式化规范天然可解释，决策时可引用规范作为依据。
• 计算社会科学：用计算工具研究社会规范，可扩展到政策分析、伦理审查等领域。

本项目提出新设计范式：从"用户会喜欢什么"转向"我们应该推荐什么"，承认推荐系统是嵌入社会价值网络的社会技术系统。对从业者的启示：

• 显式识别并记录推荐策略背后的价值假设。
• 在系统文档中说明这些假设。
• 让利益相关者参与价值权衡决策。 透明度本身就是一种规范性承诺。

局限性：项目处于探索阶段，案例范围有限，方法可推广性待验证；LLM提取可靠性、形式化准确性、推荐质量提升需更严格评估。 未来方向：

• 开发鲁棒的规范冲突解决机制。
• 探索多模态输入（图像、视频中的规范）。
• 建立规范提取质量的人工评估协议。
• 将方法应用到推荐系统外的AI领域。