要点
蒸留でコピーしきれないのは答えではなく、答えに至る思考の過程だ。OpenAIは今回、「誰が、どの条件で思考連鎖を読めるか」をAPI層の権限問題に変えた。
事件の背景
2026年11月20日、OpenAIは「対抗的蒸留との戦い(Combatting adversarial distillation)」と題する説明を公開し、未承認の蒸留を検出・遮断する取り組みと、GPT-6.2 AstraおよびGPT-6.2 Solに追加した思考連鎖(chain-of-thought)保護の強化を明らかにした。
OpenAIによる対抗的蒸留の定義は、最先端モデルの出力を無断で別のモデルの学習に使い、後者に似た能力を持たせつつ、同等の安全策を備えさせない行為である。同社が挙げる例はサイバーセキュリティだ。元のモデルは脆弱性の調査や防御コードの作成を支援しつつ、悪用は拒否する。だが、その出力で大量に学習した別モデルが同等の制御を持たない場合、元モデルが拒む攻撃的タスクへ技能を一般化する可能性がある。
この枠組みが重要なのは、「出力のコピーは問題ない」という議論を、「推論の経路のコピーは能力移転である」という議論へ移すからだ。
数字
| 攻撃の種類 | GPT-6 Astra(旧防御) | GPT-6.2 Astra(新防御) |
|---|---|---|
| 過去のリクエストから保護推論を抽出 | 54.0% | 0.2% |
| 現在のリクエストから保護推論を抽出 | 22.9% | 0.9% |
| ブラックボックス適応評価(攻撃類型別) | 単一の数値なし | いずれも1%未満 |
これらの成功率は、6つの攻撃モデルを集約した内部の適応型ブラックボックス評価によるものだ。OpenAIはGPT-6.2 Solでも抽出成功率が1%未満だったこと、一部の防御改善をGPT-6 Astraへ遡って適用したことを述べている。
「ブラックボックス」とは、攻撃者が一般ユーザーに見える範囲しか観察できないことを意味する。「適応型」とは、攻撃手法が防御に合わせて調整されることを指す。固定の攻撃セットより現実に近いが、外部研究者による最強の試行と同一ではない。
推論が資産になる理由
OpenAIの説明はこうだ。モデルが答えを出す前に通る中間段階には、最終回答に含まれない情報が入りうる。その痕跡は、圧縮された説明よりも、別モデルの学習素材として価値が高い。
具体例として理解できるのは次のような場面だ。防御的な作業を許されたモデルが、ある脆弱性が悪用可能かを判断する手順を推論の中に示すことがある。その推論だけを取り出すと、結論よりも手法に近く見えるため、別のモデルへ移転しやすい。
防御は4層
| 層 | 内容 |
|---|---|
| モデル層 | 敵対的学習により、隠れた推論を引き出そうとする要求を識別しつつ、通常の説明能力を保つ |
| 分類器層 | 入力分類器が抽出意図をふるいにかけ、出力分類器が応答とツール呼び出しの引数に含まれる漏えいを走査する |
| API層 | 保護推論を生成元の会話履歴に紐付け、前置きが書き換えられればそれ以降の推論を破棄する。旧モデル系列は新モデルの保護推論を読めない |
| アカウント層 | アカウントやネットワークをまたぐ協調的な抽出を検出し、関連アカウントに対処し、脅威指標を他社と共有する |
最も影響が大きいのはAPI層の規則だ。推論を会話履歴に紐付けることで、「暗号化された推論を別の会話へ移し、平文で復唱させる」経路が塞がれる。OpenAIはこの種の攻撃を以前に公表しており、今回はユーザー、ワークスペース、組織、モデル系列の境界を狭めたと説明する。
出力分類器がツール呼び出しの引数も検査する点も見落とせない。機微な内容は、見える回答ではなくツールへ渡す実引数に現れることがある。ツールを使うエージェントでは特に重要だ。
実務上のコストも生じる。コンテキストを節約するために会話履歴を圧縮・書き換えるアプリは、推論を残すか、履歴の書き換えの自由を残すかを選ばなければならない。両立はできない場合が多い。
能力移転はどこまで残るか
OpenAIはサイバーセキュリティ分野の能力移転研究も公表した。同じ事前学習済みの生徒モデルを、2通りに微調整した。1つは正確な推論痕跡を含む教師の軌跡、もう1つはユーザーに見える素材(最終回答、推論要約、ツールとのやり取り)のみである。
結果は次のとおりだ。正確な痕跡で学んだ生徒は教師あり微調整の後で一般に優れた。軽量な強化学習を経ても、試験した最大の推論予算では依然として先行した。しかし低い推論予算では、要約で学んだ生徒の方が良かった。
これは「防御が効いた」より微妙な知見だ。痕跡が移転可能な何かを含むことは示すが、その大きさは学習方法と推論予算に依存する。全か無かではない。
防御側への含意は、保護が高予算の移転を下げる一方、低予算の移転を防げる保証はないという点だ。低コストで能力を得たい側にとっては、要約で足りる場合がある。
実務で変わる3つの行動
第一に、推論の可視性は製品の特徴から権限項目へ移る。過去は思考過程を完全に見せることは透明性の加点だった。現在は同じ推論を、会話、ワークスペース、モデル系列ごとに許可する必要がある。企業利用では「思考過程を出すか」ではなく、「その思考過程の所有は誰か、会話をまたげるか、退職者のアカウントはまだ読めるか」を問うことになる。
第二に、履歴を書き換えるアプリは新たなコストを受け入れる。前置きが変わると推論が破棄され、モデルは推論をやり直す。コンテキスト圧縮、要約型の記憶、多ターン編集のいずれも実費が増す。推論を残すなら履歴の自由な書き換えを諦めることになる。
第三に、一括呼び出しや協調抽出は識別される。OpenAIはアカウントとネットワーク水準の協調行為を調査し、脅威指標を他社と共有しうると述べている。数百のアカウントに抽出を分散させる行為は、技術的問題からコンプライアンス問題へ変わる。単発の要求が無害に見えても、集約されたパターンが対処の引き金になりうる。
オープンソースとの関係
発表は特定のモデルを名指ししていないが、対抗的蒸留の典型的な形は「最先端APIの出力で自作の小モデルを育てる」ことだ。この手法は長期にわたりグレーゾーンにあった。モデルのライセンスは通常、重みの配布を制約するが、誰の出力を学習データに使うかは縛らない。APIの利用規約は呼び出し行為を縛るが、両者の重なりは不明瞭だった。
OpenAIの表現は「未承認の出力利用」と「防御の回避」の組み合わせに線を引く。自作モデルを持つチームが実行できる判断はこうだ。学習データに第三者のモデル出力が含まれる場合、そのサービスの規約が学習利用を許すかを確認し、本来見えない推論を得るために回避手段を使ったかを確認する。どちらかが成り立たなければ、通常利用の範囲外となる。
境界
- 発表日、攻撃成功率、4層の防御内容、APIの挙動はOpenAIの公式説明とGPT-6.2のシステムカードに基づき、二次報道とも概ね一致する
- 成功率はいずれもOpenAIの内部評価であり、独立した第三者検証はない。サンプル数、評価器の設計、攻撃予算は開示されていない
- 「6つの攻撃モデルの集約」「1%未満」は公式の記述で、項目別の数値は示されていない
- 能力移転の研究もベンダー自身の報告であり、対象ベンチマークの全容、生徒モデルの規模、学習レシピは公開されていない
- 本記事は推論保護の回避、分類器の回避、未承認の蒸留の手法を一切扱わない
