大模型推理何时可接受？用户对LLM推断隐私的反应与控制偏好研究

本文围绕LLM隐私推断的用户体验展开研究，核心发现包括：用户对LLM的未明言推断更多是好奇而非担忧；引发不适的关键因素是错误表征和第三方使用，而非推断内容本身；并提出了推断可接受性的多维框架，为AI产品设计提供了隐私保护的方向。

LLM的"未明言推断"能力是智能的体现，但也带来隐私风险。传统隐私研究聚焦LLM能否做出侵犯性推断，却忽略了用户如何体验这些推断、希望施加何种控制——这些问题对设计智能且尊重用户的AI系统至关重要。

研究团队开发了Reflective Layer可视化工具，从用户ChatGPT对话历史中提取未明言推断并呈现。采用混合方法：招募18名定期使用ChatGPT的用户，评估215条来自真实对话的推断（涵盖人口统计、健康、财务等敏感信息），结合定量分析反应强度与定性访谈探索原因。

1. 用户反应：对推断的好奇和兴趣远超焦虑担忧，惊讶于LLM从对话中提取信息的能力；2. 不适来源：错误表征（推断与自我认知不符）、使用场景错配；3. 第三方红线：对广告商/第三方使用推断的不安远高于平台内部使用；4. 多维框架：内容（敏感程度）、准确性（事实符合度）、生成方式（透明度/退出权）、保留（存储/期限）、传输（第三方共享）。

1. 推断透明化：主动告知用户系统可能推断的内容，如Reflective Layer式界面；2. 用户控制面板：细粒度控制推断的生成、存储、使用，区分平台内外权限；3. 准确性反馈：允许用户纠正错误推断；4. 场景感知政策：推断使用需绑定具体场景（如医疗推断用于健康建议而非旅游推荐）。

局限：参与者为ChatGPT现有用户（可能接受度较高）、美国语境（文化差异影响隐私观）、通过Reflective Layer呈现推断（自然场景反应或不同）。更广泛讨论：传统隐私框架（告知-同意）难以应对LLM推断，需关注推断层面治理：可审计性、目的限制、推断删除权等。

本研究挑战了LLM隐私风险的简单叙事，用户反应是 nuanced 且 context-dependent 的。关键不是消除所有推断，而是建立用户信任，让用户对推断的生成和使用拥有真正的知情与控制，这是设计智能且尊重用户的AI系统的关键。