新闻

OpenAI 加固思考链防护:提取成功率从 54% 降到 0.2%(2026 年 11 月 20 日)

OpenAI 于 2026 年 11 月 20 日发布《对抗性蒸馏》说明,披露其为 GPT-6.2 Astra 与 GPT-6.2 Sol 新增的思考链保护措施。内部自适应红队评测显示,从早前请求中提取受保护推理的平均攻击成功率,从 GPT-6 Astra 原防护下的 54.0% 降至 GPT-6.2 Astra 的 0.2%;从当前请求提取则从 22.9% 降至 0.9%。防护覆盖对抗训练、输入与输出分类器、API 层推理绑定与跨模型隔离,以及账号级协同提取调查。

一句话总结

蒸馏防不住的部分从来不是答案,而是答案背后的推理过程。OpenAI 这次把「谁能在什么条件下读到思考链」变成了一个 API 层面的权限问题。

事件背景 ​

2026 年 11 月 20 日,OpenAI 发布《对抗性蒸馏》(Combatting adversarial distillation)说明,公开其检测与阻断未授权蒸馏的做法,并披露针对 GPT-6.2 Astra 与 GPT-6.2 Sol 的思考链(chain-of-thought)保护升级。

OpenAI 对「对抗性蒸馏」的定义是:未获授权地使用前沿模型的输出训练另一个模型,让后者获得相似能力,却不具备原模型的安全防护。它举的例子是网络安全:原模型可能允许协助查找漏洞、编写防御代码,但会拒绝利用这些漏洞;如果另一个模型在原模型的产出上被大量训练,且没有可比的控制措施,它可能把这些技能泛化到原模型本会拒绝的进攻性任务上。

核心数字 ​

攻击类型GPT-6 Astra 原防护GPT-6.2 Astra 新防护
从早前请求提取受保护推理54.0%0.2%
从当前请求提取受保护推理22.9%0.9%
黑盒自适应评测(各攻击类型)未给出单一数值均低于 1%

上述成功率(ASR)来自内部自适应黑盒红队评测,对六个攻击模型聚合。OpenAI 同时说明,GPT-6.2 Sol 在自适应评测中提取成功率同样低于 1%。公司还表示,已把部分防护改进回移到 GPT-6 Astra。

为什么要保护推理过程 ​

OpenAI 的解释是:模型在得出答案之前的中间步骤,可能包含最终答案里没有的信息。这些痕迹对训练另一个模型而言,价值高于答案本身或压缩后的解释。

这个判断对应一个具体场景:一个被允许协助防御性工作的模型,其推理过程可能展示「如何判断一个漏洞可利用」。这类推理提炼出来单独看,与最终回答相比更接近方法而非结论,因此更容易迁移到别的模型上。

防护分四层 ​

层级具体做法
模型层对抗训练,让模型识别「套取隐藏推理」的请求,同时保留正常解释能力
分类器层输入分类器筛查提取意图;输出分类器扫描回复与工具调用参数中的推理泄漏
API 层受保护推理绑定产生它的对话历史;前缀被改写即丢弃其后的推理;旧模型家族无法读取新模型的受保护推理
账号层识别账户与网络层面的协同提取行为,可对关联账号采取措施并与其他模型提供方共享威胁指标

API 层这一条最值得注意:把推理与对话历史绑定,意味着「把加密推理搬到另一段对话再要求它用自然语言复述」这条路径被堵住。OpenAI 称,此前披露过这类攻击,现已收窄用户、工作区、组织与模型家族之间的边界。

另外,输出分类器会检查工具调用的参数——因为敏感内容可能出现在发给工具的实参里,而不出现在可见回答里。这一点在带工具调用的代理场景中尤其关键。

能力迁移是什么程度 ​

OpenAI 还公布了一项网络安全能力迁移研究:用同一个预训练学生模型,一份用含精确推理痕迹的教师轨迹微调,另一份只用用户可见材料(最终答案、推理摘要、工具交互)训练。

结果是:精确痕迹的学生在监督微调后普遍表现更好;再经过轻量强化学习后,在测试的最大推理预算下仍领先;但在较低推理预算下,摘要训练的学生表现更好。

这个结果比「防护有效」更微妙:它说明痕迹确实携带可迁移的东西,但迁移幅度与训练方式、推理预算有关,不是简单的「全有或全无」。

这条公告改变的三个具体行为 ​

第一,推理可见性从「产品特性」变成了「权限项」。过去把思考过程完整展示给用户,是透明度的加分项;现在同一份推理要按会话、按工作区、按模型家族分别授权。对企业客户来说,这意味着采购时要问的不再是「模型会不会给出思考过程」,而是「这份思考过程归谁所有、能不能跨会话迁移、离职员工的账号还能不能读到」。

第二,改写对话历史的应用要接受新的代价。API 层把受保护推理绑定到产生它的历史前缀,一旦前缀被改写,其后的推理就被丢弃,模型必须重新推理。这对上下文压缩、摘要式记忆、多轮编辑类应用都是实打实的成本增加:为了留住推理,就得放弃对历史的自由改写。

第三,批量调用与协同提取会被识别。OpenAI 提到会调查账户与网络层面的协同行为,并可与其他模型提供方共享威胁指标。这一条把「用几百个账号分摊提取量」从技术问题变成了合规问题——即使单次请求看起来无害,聚合模式本身可能触发处置。

与开源生态的关系 ​

公告没有点名任何模型,但对抗性蒸馏的常见形态是「用前沿 API 输出喂养自建小模型」。开源社区里这类做法长期处于灰色地带:模型许可通常只约束权重分发,不约束用谁的输出做训练数据;而 API 服务条款约束的是调用行为,两者交集不清。

OpenAI 的表述把界线划在「未授权使用输出 + 绕过防护」这个组合上。对自建模型的团队来说,可操作的判断是:如果训练数据来源包含第三方模型输出,需要确认该服务的条款是否允许,以及是否使用了规避手段获取本不可见的推理。这两条中任一不成立,都不在「正常使用」的范围里。

边界 ​

  • 公告发布日期、攻击成功率、四层防护的具体做法、API 行为变化,来自 OpenAI 官方说明与 GPT-6.2 系统卡,媒体转述基本一致;
  • 上述成功率为 OpenAI 内部评测结果,未经独立第三方验证;公开材料未披露攻击分布、样本量、评测器设计,也不足以与外部研究者构造的攻击直接对比;
  • 能力迁移研究同样为厂商自述,结论是「保护痕迹可能降低迁移」,而非「消除迁移」;
  • 「六个攻击模型聚合」「GPT-6.2 Sol 低于 1%」为官方描述,未给出逐项数值;
  • 本文不提供任何绕过推理保护、规避分类器或实施蒸馏的方法,仅记录公开信息。

参考来源 ​