記事

AIがクリックを始めるとき 三層の権限と三つの失敗の仕方

GoogleのGemini for Macは、アプリ単位の権限、バックグラウンド実行、重要操作の確認を伴うPC操作機能を提供する。Appleは追加の権限警告を備えた独自エージェントを開発中と報じられ、MetaのMuseは私的な会話が誤ったセッションに現れた。本稿は三つの出来事を、アプリ・操作・システムという三層の権限構造と、範囲の広すぎ、文脈の混線、実行の不可視という三つの失敗モードに分解し、公開事実から導ける確認項目を整理する。

要点

自動化の昔の問題は「スクリプトが間違っていた」こと。AIエージェントの新しい問題は「別の意味に理解して、それでも実行した」ことだ。前者は回帰テストで覆えるが、後者は権限の境界でしか受け止められない。

一週間のうちに、三社が同じ問いを語った ​

2026年11月19日から20日にかけて、互いに無関係な三つの出来事が同じ問題を指し示した。

GoogleはmacOS版Geminiアプリに「Computer Use」を投入した。自然言語の指示でアプリをまたいだクリック、入力、フォーム記入、メニュー操作を行う。タスクは独立したバックグラウンドウィンドウで動き、チャット欄にリアルタイムのプレビューが流れ、重要操作の前に確認を求め、利用者がアクセスを許すアプリを選ぶ。

複数の報道によれば、Appleはアプリ操作、Web閲覧、コード作成が可能な独自のPC操作エージェントを開発中で、まだ初期段階にある。競合エージェント向けに追加の権限警告も準備しているという。

MetaのMuseは別の種類の問題を起こした。職員が自分のセッション内に、他人の育児に関するメッセージ、個人のリマインダー、銀行残高を見たと報告した。Metaはテスト中の版がまだ一般公開されていないと説明している。

三つはそれぞれ異なる不安に対応する。範囲(Geminiがどこまで触れるか)、システム(OSが警告すべきか)、分離(文脈が漏れるか)である。

権限の三層構造 ​

製品を分解すると層は三つしかない。どの実装もこの三層の間で取捨選択をしている。

層決める主体司るもの今回見られた手法
アプリ層利用者エージェントが触れるプログラムとフォルダGemini:マシン全体ではなく、利用者が許可するアプリを選択
操作層エージェント+利用者個別の動作を実行するかGemini:重要操作の前に確認、いつでも一時停止・停止
システム層オペレーティングシステム警告するか、表示するか、透明性インジケーターを出すかmacOS 27.3:リスク表示、権限範囲の明示、アプリが別アプリを制御していることの表示

分掌は理にかなっている。アプリ層は「どこまで」、操作層は「この一手を実行するか」、システム層は「利用者が知っているか」に答える。

Geminiは三層すべてに手を入れているが、重心はアプリ層にある。「マシンの制御」を「どのアプリを操作できるか」に分解した。これにより最悪の場合の上限が下がる。モデルが誤判定しても、被害は利用者が選んだアプリの内側に留まる。

macOS 27.3の計画はシステム層を補う。何かが何かを制御していることをいつでも見えるようにし、そのアクセスが何を意味するかを伝える。承認済みアプリは再承認が不要という点が重要だ。更新のたびに再承認を求めれば、利用者は反射的に「許可」を押し、警告は効力を失う。

三つの失敗の仕方 ​

権限設計は「やってはいけないこと」を防ぐ。しかし現実の失敗は別の三方向から来る。

第一に、範囲が広すぎる。 手間を省くためマシン全体の制御を一度与える。あるいは、認可済みのアプリを足場に、本来見えないデータへ到達する(ファイルマネージャ経由でディスク全体を読むなど)。原因は粒度の粗さにある。

第二に、文脈の混線。 Museの報告がこれに当たる。権限が過剰だったのではなく、セッション間の分離が弱かった。エージェントは通常、画面内容、クリップボード、通知、最近使ったファイルを読む。こうした環境情報が他人のセッションに混ざれば、それは開示になる。許可リストでは直せない。問題は「どのアプリに届くか」ではなく「誰の文脈に届くか」だからだ。

第三に、実行が見えない。 エージェントが裏で数十手を実行し、利用者は結果だけを見る。途中の一手が意図を読み違え(「デスクトップを整頓」が「ダウンロードフォルダを削除」になる)、誰も見ていなければ損失は既に発生している。Geminiのリアルタイムプレビューと一時停止は、まさにこれに対処する設計だ。

三つの処方は異なる。範囲は粒度、混線は分離とアカウント境界、不可視は過程の透明性である。互いに代替できない。

RPAとの違い ​

「チャット欄が付いたRPAではないか」という指摘が出る。違いは二点ある。

第一に、入力の性質。RPAは事前に書いたスクリプトや記録した操作列に依存する。挙動は予測可能で、失敗は多くが工学的な問題、たとえば画面変更による要素の位置ずれである。AIエージェントは自然言語の指示を受け、挙動を実行時に決める。失敗は多くが意味論的な問題、すなわち意図の読み違いになる。前者は回帰テストで覆えるが、後者は網羅が難しい。

第二に、適用範囲。RPAは固定した流れの中でしか信頼できず、流れや画面が変われば書き直しが要る。エージェントは変化に対応できるが、その代償として毎回まったく同じ実行にはならない。信頼性と適用範囲はこの線の上で トレードオフの関係にある。

だからこそ、権限設計はRPAよりもAIエージェントで重要になる。RPAのリスクは主に「間違ったことをした」こと。エージェントのリスクは「頼んでいないことを、正しくやってしまった」ことである。

実務で確認すべき四点 ​

以下は予測ではなく、上述の事実から直接導ける確認項目である。

第一に、権限はアプリ単位か、マシン単位か。「全体制御」しか提供しないツールは、範囲のリスクをすべて利用者に移している。

第二に、実行を中断できるか。見えにくい場所で一時停止できるかどうかが、誤判定のコストの上限を決める。

第三に、重要動作に二段階の確認があるか。削除、支払い、送信、システム設定の変更という四種類は、通過を既定とせず遮断を既定とすべきである。

第四に、システム層の表示があるか。27.3の配信前には検証できないが、「利用者が知っているか」という最も基本的な問いを決める。

見落とされやすい細部 ​

バックグラウンドの独立ウィンドウという設計は、快適さの工夫にとどまらず、監査の可能性も変える。

従来の前面自動化は視覚的な痕跡を残す。ウィンドウの切り替え、カーソルの移動、ボタンの強調である。バックグラウンド実行はそれらの痕跡を別ウィンドウに移し、メイン画面には出さない。利点は邪魔をしないこと、代償は「隣にいる人」が画面を見て異常に気づけなくなることだ。

つまり監査は「目に見える」から「ログと状態表示」へ移る。macOS 27.3で計画される透明性インジケーターは、まさにこの環を埋める。システム層で「あるアプリが別のアプリを制御している」と示し、見えない実行を再び見えるものにする。この表示を利用者が切るか無視すれば、バックグラウンド実行は黒箱に戻る。

逆方向の視点 ​

同じ日に別のニュースがあった。欧州委員会がAI支援のサイバー攻撃を受け、人事と医療費のシステムが10日以上停止したことを確認した。

これは、AIが攻撃側でも加速していることを思い出させる。脆弱性の識別を速め、かつて人手で数週間かかった偵察段階を圧縮する。防御側でAIエージェントに与える権限が大きくなるほど、悪用されうる経路も増える。

したがって「AIがPCを操作できる」ことの純便益は、製品の出来だけで決まらない。どれだけの攻撃面を露出するかにもかかつている。画面を読み、ボタンを押し、フォームを埋めるエージェントが誤った動作へ誘導されれば、その効果は悪意あるスクリプトと区別できない。

境界 ​

  • Gemini for Macの機能、権限モデル、ハードウェアとプランの条件は、Googleの公式説明と報道による。
  • Appleの独自エージェントは報道段階で公式確認がなく、本稿は動向の記録に留め、実装を推測しない。
  • Museのセッション混線は職員の証言と報道による。Metaは該当版が一般公開前だとし、事件の性質は同社の調査に委ねる。
  • macOS 27.3の警告機構は配信前の説明であり、実際の挙動は正式版による。
  • 欧州委員会の事件の事実は同日公開の別稿に記載があり、本稿は対照として引用するのみで、いかなる国や機関も評価しない。
  • 本稿は権限の回避、システム警告の抑止、エージェント権限の拡大といった手法を一切提供せず、公開情報に基づく設計とガバナンスの議論に限る。

参考来源 ​