章节 01
【导读】Intent Preservation Benchmark:高风险场景下LLM意图保持能力评估基准
核心信息
- 项目名称:Intent Preservation Benchmark
- 定位:开源基准测试与评估框架,用于衡量大型语言模型(LLM)在医疗、金融、政府等高风险场景中保持人类意图的能力
- 目的:帮助研究者在部署前识别AI系统的意图偏离风险
- 来源:GitHub(作者/维护者:khiannadeseide,发布时间:2026-07-12,原始链接:https://github.com/khiannadeseide/Intent-Preservation-Benchmark.krd)
- 关键词:AI安全、意图保持、大语言模型、基准测试、医疗AI、高风险环境、评估框架、AI对齐、临床AI
本基准聚焦高风险场景下的AI意图对齐问题,是确保AI系统安全可靠的重要工具。