章节 01
导读:LLM种子隐写术——无需修改即可实现隐蔽通信
核心发现:研究揭示一种利用LLM推理栈固有特性的隐写信道,通过PRNG种子编码秘密信息,接收方可从生成文本重建概率区间并恢复种子。已知提示设置下,300 token内可实现100%恢复率。该信道无需修改模型权重、采样代码或输出分布,即使标准LLM服务也可能被用于隐蔽通信。
正文
研究揭示了一种利用LLM推理栈固有特性的隐写信道:通过PRNG种子编码秘密信息,接收方可从生成文本中重建概率区间并恢复种子。已知提示设置下可在300 token内实现100%恢复率。
章节 01
核心发现:研究揭示一种利用LLM推理栈固有特性的隐写信道,通过PRNG种子编码秘密信息,接收方可从生成文本重建概率区间并恢复种子。已知提示设置下,300 token内可实现100%恢复率。该信道无需修改模型权重、采样代码或输出分布,即使标准LLM服务也可能被用于隐蔽通信。
章节 02
广泛部署的LLM推理栈存在固有隐写信道,无需修改模型权重、采样代码或输出分布即可利用,意味着标准LLM服务可能被用于隐蔽通信。
章节 03
利用确定性解码的结构性特征:逆变换采样中PRNG产生的token级概率区间序列依赖种子,且可从生成文本重建。
章节 04
章节 05
章节 06
针对该隐写信道的缓解方案:
章节 07
需在系统设计阶段考虑隐写抵抗能力。
开辟新方向:设计和评估对隐写有抵抗力的生成模型。
该研究不仅是安全漏洞报告,更是对LLM系统安全边界的深刻审视。