Intent Preservation Benchmark：评估大语言模型在高风险场景下保持人类意图的能力

一个开源评估框架，用于衡量大语言模型在复杂信息转换过程中是否忠实地保留了人类的原始意图，特别关注医疗等高风险领域。

• 原作者/维护者：khiannadeseide
• 来源平台：github
• 原始标题：Intent-Preservation-Benchmark.krd
• 原始链接：https://github.com/khiannadeseide/Intent-Preservation-Benchmark.krd
• 来源发布时间/更新时间：2026-07-12T21:20:47Z

原作者与来源

• 原作者/维护者：khiannadeseide
• 来源平台：github
• 原始标题：Intent-Preservation-Benchmark.krd
• 原始链接：https://github.com/khiannadeseide/Intent-Preservation-Benchmark.krd
• 来源发布时间/更新时间：2026-07-12T21:20:47Z 原作者与来源\n\n- 原作者/维护者：khiannadeseide\n- 来源平台：GitHub\n- 原始标题：Intent-Preservation-Benchmark.krd\n- 原始链接：https://github.com/khiannadeseide/Intent-Preservation-Benchmark.krd\n- 发布时间：2026年7月12日\n\n---\n\n项目背景与动机\n\n随着大语言模型（LLM）逐步融入医疗、政府、金融等关键系统，评估其可靠性变得与提升其能力同等重要。现有的许多基准测试关注的是模型是否能给出正确答案，但很少有评估关注模型是否忠实地保留了人类指令背后的原始意图。\n\nIntent Preservation Benchmark（意图保留基准测试）是一个开源研究项目，专注于开发实用的方法来识别大语言模型在复杂信息传递过程中引入的遗漏、无根据的假设、幻觉或微妙的语义变化。\n\n该项目的核心问题不是"模型的回答听起来是否合理"，而是：\n\n> 模型是否保留了人类最初想要传达的意思？\n\n---\n\n项目概述\n\nIntent Preservation Benchmark 旨在构建一个开源的基准测试和评估框架，用于衡量大语言模型在转换复杂信息时是否忠实地保留了人类意图。\n\n为什么选择医疗领域作为起点\n\n医疗领域被选为初始验证领域，因为它提供了清晰、可衡量的高风险沟通示例，在这些场景中保留人类意图至关重要。医疗场景中的信息传递需要极高的准确性，任何细微的语义变化都可能导致严重的后果。\n\n当前项目状态\n\n已完成的工作：\n- 使用 Gemini 1.5 Flash 完成的独立20案例试点研究\n- 初始评估标准（Evaluation Rubric）\n- 常见失败模式的文档记录\n- 交互式 Figma 原型\n- 初始项目架构设计\n\n进行中：\n- Intent Preservation Benchmark v0.1 版本\n- 公共 GitHub 文档\n- 基准测试方法论\n- 开源代码仓库\n- 平台规划与执行策略\n\n计划中的工作：\n- 自动化评估管道\n- 可靠性评分卡\n- 扩展基准数据集\n- 公共网络平台\n- 开源平台发布\n\n---\n\n初始基准测试设计\n\n项目目前包含 Intent Preservation Benchmark v0.1，这是一个由20个复杂临床出院规划场景组成的初始基准测试，旨在评估大语言模型在复杂信息转换过程中保留临床医生意图的能力。\n\n评估维度\n\n该基准测试关注以下几个关键维度：\n\n1. 信息遗漏：模型是否丢失了原始指令中的重要信息\n2. 无根据假设：模型是否添加了原文中没有的假设\n3. 幻觉内容：模型是否生成了与原文不符的内容\n4. 语义偏移：模型是否微妙地改变了原文的含义\n\n---\n\n技术架构与仓库结构\n\n\n├── README.md\n├── benchmark/\n│ ├── Benchmark_v0.1.md\n│ └── Evaluation_Rubric.md\n├── methodology/\n│ └── Methodology.md\n├── results/\n│ ├── Benchmark_Results.xlsx\n│ └── Findings.md\n├── prototype/\n│ └── Figma_Prototype.md\n└── docs/\n ├── Execution_Strategy.md\n └── Project_Status.md\n\n\n---\n\n为什么这很重要\n\n随着人工智能系统越来越多地参与实际工作流程，保留人类意图成为可靠性的关键组成部分。在高风险环境中，微小的语义变化可能累积成严重的下游故障，特别是在信息必须在人员和系统之间准确传递的场景中。\n\n通过开发衡量意图保留的标准化方法，该项目旨在提供实用的评估基础设施，使研究人员能够在部署前而非在造成实际伤害后发现对齐失败。\n\n---\n\n发展路线图\n\n第一阶段：研究基础\n- 初始试点研究\n- 评估标准制定\n- 初始基准设计\n- 平台原型开发\n\n第二阶段：基准开发\n- Intent Preservation Benchmark v0.1\n- 公共文档发布\n- GitHub 仓库开源\n- 基准测试优化\n\n第三阶段：平台 MVP\n- 自动化评估管道\n- 可靠性评分生成\n- 交互式研究界面\n\n第四阶段：开源发布\n- 公共平台上线\n- 扩展基准测试\n- 社区协作\n- 持续基准开发\n\n---\n\n参与贡献\n\n该项目目前处于积极开发阶段。欢迎技术反馈、研究合作、基准测试改进，以及关于人工智能评估、基准测试设计和意图保留的讨论。\n\n---\n\n许可证\n\n该项目以开源研究项目的形式开发，采用开源许可证，鼓励协作并持续推进人工智能安全评估领域的发展。