一句话总结
蒸馏防不住的部分从来不是答案,而是答案背后的推理过程。OpenAI 这次把「谁能在什么条件下读到思考链」变成了一个 API 层面的权限问题。
事件背景
2026 年 11 月 20 日,OpenAI 发布《对抗性蒸馏》(Combatting adversarial distillation)说明,公开其检测与阻断未授权蒸馏的做法,并披露针对 GPT-6.2 Astra 与 GPT-6.2 Sol 的思考链(chain-of-thought)保护升级。
OpenAI 对「对抗性蒸馏」的定义是:未获授权地使用前沿模型的输出训练另一个模型,让后者获得相似能力,却不具备原模型的安全防护。它举的例子是网络安全:原模型可能允许协助查找漏洞、编写防御代码,但会拒绝利用这些漏洞;如果另一个模型在原模型的产出上被大量训练,且没有可比的控制措施,它可能把这些技能泛化到原模型本会拒绝的进攻性任务上。
核心数字
| 攻击类型 | GPT-6 Astra 原防护 | GPT-6.2 Astra 新防护 |
|---|---|---|
| 从早前请求提取受保护推理 | 54.0% | 0.2% |
| 从当前请求提取受保护推理 | 22.9% | 0.9% |
| 黑盒自适应评测(各攻击类型) | 未给出单一数值 | 均低于 1% |
上述成功率(ASR)来自内部自适应黑盒红队评测,对六个攻击模型聚合。OpenAI 同时说明,GPT-6.2 Sol 在自适应评测中提取成功率同样低于 1%。公司还表示,已把部分防护改进回移到 GPT-6 Astra。
为什么要保护推理过程
OpenAI 的解释是:模型在得出答案之前的中间步骤,可能包含最终答案里没有的信息。这些痕迹对训练另一个模型而言,价值高于答案本身或压缩后的解释。
这个判断对应一个具体场景:一个被允许协助防御性工作的模型,其推理过程可能展示「如何判断一个漏洞可利用」。这类推理提炼出来单独看,与最终回答相比更接近方法而非结论,因此更容易迁移到别的模型上。
防护分四层
| 层级 | 具体做法 |
|---|---|
| 模型层 | 对抗训练,让模型识别「套取隐藏推理」的请求,同时保留正常解释能力 |
| 分类器层 | 输入分类器筛查提取意图;输出分类器扫描回复与工具调用参数中的推理泄漏 |
| API 层 | 受保护推理绑定产生它的对话历史;前缀被改写即丢弃其后的推理;旧模型家族无法读取新模型的受保护推理 |
| 账号层 | 识别账户与网络层面的协同提取行为,可对关联账号采取措施并与其他模型提供方共享威胁指标 |
API 层这一条最值得注意:把推理与对话历史绑定,意味着「把加密推理搬到另一段对话再要求它用自然语言复述」这条路径被堵住。OpenAI 称,此前披露过这类攻击,现已收窄用户、工作区、组织与模型家族之间的边界。
另外,输出分类器会检查工具调用的参数——因为敏感内容可能出现在发给工具的实参里,而不出现在可见回答里。这一点在带工具调用的代理场景中尤其关键。
能力迁移是什么程度
OpenAI 还公布了一项网络安全能力迁移研究:用同一个预训练学生模型,一份用含精确推理痕迹的教师轨迹微调,另一份只用用户可见材料(最终答案、推理摘要、工具交互)训练。
结果是:精确痕迹的学生在监督微调后普遍表现更好;再经过轻量强化学习后,在测试的最大推理预算下仍领先;但在较低推理预算下,摘要训练的学生表现更好。
这个结果比「防护有效」更微妙:它说明痕迹确实携带可迁移的东西,但迁移幅度与训练方式、推理预算有关,不是简单的「全有或全无」。
这条公告改变的三个具体行为
第一,推理可见性从「产品特性」变成了「权限项」。过去把思考过程完整展示给用户,是透明度的加分项;现在同一份推理要按会话、按工作区、按模型家族分别授权。对企业客户来说,这意味着采购时要问的不再是「模型会不会给出思考过程」,而是「这份思考过程归谁所有、能不能跨会话迁移、离职员工的账号还能不能读到」。
第二,改写对话历史的应用要接受新的代价。API 层把受保护推理绑定到产生它的历史前缀,一旦前缀被改写,其后的推理就被丢弃,模型必须重新推理。这对上下文压缩、摘要式记忆、多轮编辑类应用都是实打实的成本增加:为了留住推理,就得放弃对历史的自由改写。
第三,批量调用与协同提取会被识别。OpenAI 提到会调查账户与网络层面的协同行为,并可与其他模型提供方共享威胁指标。这一条把「用几百个账号分摊提取量」从技术问题变成了合规问题——即使单次请求看起来无害,聚合模式本身可能触发处置。
与开源生态的关系
公告没有点名任何模型,但对抗性蒸馏的常见形态是「用前沿 API 输出喂养自建小模型」。开源社区里这类做法长期处于灰色地带:模型许可通常只约束权重分发,不约束用谁的输出做训练数据;而 API 服务条款约束的是调用行为,两者交集不清。
OpenAI 的表述把界线划在「未授权使用输出 + 绕过防护」这个组合上。对自建模型的团队来说,可操作的判断是:如果训练数据来源包含第三方模型输出,需要确认该服务的条款是否允许,以及是否使用了规避手段获取本不可见的推理。这两条中任一不成立,都不在「正常使用」的范围里。
边界
- 公告发布日期、攻击成功率、四层防护的具体做法、API 行为变化,来自 OpenAI 官方说明与 GPT-6.2 系统卡,媒体转述基本一致;
- 上述成功率为 OpenAI 内部评测结果,未经独立第三方验证;公开材料未披露攻击分布、样本量、评测器设计,也不足以与外部研究者构造的攻击直接对比;
- 能力迁移研究同样为厂商自述,结论是「保护痕迹可能降低迁移」,而非「消除迁移」;
- 「六个攻击模型聚合」「GPT-6.2 Sol 低于 1%」为官方描述,未给出逐项数值;
- 本文不提供任何绕过推理保护、规避分类器或实施蒸馏的方法,仅记录公开信息。
