Trail of Bits が検証した内容
8 月 26 日、セキュリティ研究機関の Trail of Bits がブログに一つの記事を公開した。タイトルは VMs won't contain cyber-capable agents と率直そのもの。
この投稿は Hacker News のフロントページに数時間掲載され、68 ポイントと 29 コメントを集めた。同機関は iMessage の監査や暗号化ライブラリのファジングで知られるいわば古参であり、顔ぶれは新しくない。
今回彼らがやったのは、セキュリティ業界では珍しいことだ。紙上の分析ではなく、実際に Agent 攻撃チェーンを走らせた。サイバー攻撃能力を持つ Agent を VM に入れ、隔離層を突き破れるかを試した。結論は「突破可能、しかも経路は一つではない」。
この結果は、Agent 向けサンドボックスを手がける主要ベンダー(Anthropic、OpenAI、Cognition など)にとって、耳の痛い話になる。
VM が Agent を止められない理由
従来の VM 隔離の前提は単純だ。VM 内のプログラムは信頼できないので、閉じ込めた環境で行動を制限する、というもの。
この前提は従来の脅威モデルでは成立していた。VM 内のマルウェアは受動的なものが多く、ランサムウェアや暗号資産マイニング程度が関の山で、横展開の能力は限定的だった。
しかし Agent は違う。
Agent はサイバー攻撃能力を持つ。ポートスキャンし、exploit を書き、VM 内ソフトウェアの CVE を利用し、設定ファイルから鍵を拾い上げる。VM 隔離は Agent にとって壁ではなく、攻撃対象になる。
核心となる違いは以下のとおり。
- 従来:防御の重点は「コンテンツ審査」——プロンプトのフィルタリング、脱獄検知、有害出力の遮断
- 今:防御の重点は「能力の制約」でなければならない——Agent が呼び出せるツール、アクセスできるネットワーク、書き込めるファイルを制限する
後者は圧倒的に難しい。ネットワーク権限を持つ Agent は、理論上、何でもできるからだ。
具体的な突破経路の解説
Trail of Bits は記事内で実際に有効だった複数の脱出経路を挙げている。ここでは代表的な 3 つを取り上げる。
1. 共有クリップボード / 共有デバイス
VM とホストマシンの間では、利便性のためにクリップボード、共有フォルダ、USB デバイスが共有されていることが多い。
Agent は VM 内でコードを動かし、共有クリップボードに細工した payload を書き込むだけで、ホスト側のアプリがクリップボードを読み取った瞬間に発火する。この経路は権限昇格すら不要で、共有デバイス自体が設計上の妥協点になっている。
2. ネットワークブリッジ / ポートフォワーディング
多くの VM は NAT モードで動くが、開発用途の VM ではブリッジモードが一般的で、ホストと同じセグメントの IP を持つ。Agent が VM 内で社内ネットワークをスキャンし、ホストが開いているポート(SSH、RDP、リモート管理ツール)を見つければ、直接接続できる。
さらに厄介なのが VM 内のプロキシ設定だ。開発者は利便性のため、VM に社内ネットワーク用のプロキシを設定することが多い。Agent はプロキシを足掛かりに企业内部システムへ直接到達できる。
3. 仮想デバイスドライバの脆弱性
VM ツールチェーン(VirtualBox、VMware、QEMU のゲストツール)には、パフォーマンス最適化のため、ゲスト-ホスト間の通信チャネルが大量に組み込まれている。これらのコード品質にはばらつきがあり、過去に複数の CVE が出ている。
Agent は VM 内でこれらのツールのバージョンをスキャンし、既知の脆弱性と突合して利用する。技術的な敷居は前 2 つより高いが、成功すればホスト上での実行権限を直接奪える。
これら 3 経路に共通するのは、「AI の脱獄」ではなく、Agent を自走する攻撃者として扱う視点だということだ。Agent は自分で経路を見つける。
従来サンドボックス設計の誤り
現在の Agent サンドボックスは、「VM + プロンプト審査」という組み合わせが主流だ。
何が問題か。
- VM は「信頼できないプログラム」を防ぐが、Agent は目標を持った攻撃者であり、自律的に出口を探す
- プロンプト審査は「有害な出力」を防ぐが、Agent が出すのは正当な exploit コードやスキャン結果、侵入経路かもしれない
- VM 内のソフトウェアには脆弱性があり、Agent はそれを悪用する
AI を「信頼できないユーザー」として VM 隔離する発想は、ChatGPT 時代にはまだ通用した。当時のモデルの主なリスクは有害なテキストを吐き出すことだったからだ。Agent 時代になると、Agent 自体が攻撃ツールであり、VM は突破されるべき一つのノードに過ぎない。
さらに深い問題として、多くの Agent サンドボックスは粒度が粗すぎる。完全隔離にすれば Agent は何もできず製品の価値がゼロになり、開きすぎれば VM がただの置物になる。中間を取ることがそもそも難しい。
ではどう防御するか
Trail of Bits は記事末尾でいくつかの方向性を示している。ここでは筆者の理解も交えて整理する。
1. マイクロセグメンテーション
大きな VM ではなく、Agent がアクセスするリソースを細かいネットワークセグメントに分割する。各リソースに個別に認証を掛け、Agent が横展開しようとするたびに毎回検証させる。
導入難易度:インフラ要件が高く、多くの企業にはこの余力がない。
2. 最小権限
Agent が実行するすべての操作を、「デフォルト許可」ではなく「明示的許可」ベースにする。従来の RBAC より細かい権限システムが必要で、理想は「ロール」ではなく「タスク」単位の認可だ。
導入難易度:Agent のタスク境界を静的に定義するのが難しい。同一 Agent でも、タスクごとに必要な権限が異なる。
3. ネットワーク Egress の厳格管理
すべての外向き通信をデフォルト拒否し、Agent のタスクに必要なドメイン/IP だけを通す。Agent が新しい接続先を求める場合は承認が必要。
導入難易度:Agent のネットワーク要件は動的で、承認フローは製品体験を遅くする。
4. 行動監査 + 異常検知
Agent のすべての操作を記録し、異常検知モデルを走らせる。ポートスキャン、/etc/shadow の読み取り、権限昇格の試行が始まったら即座にアラートを上げて中断する。
導入難易度:誤検知率が高い。通常のセキュリティテスト Agent も同じ行動を取るからだ。
率直に言えば、この 4 つだけではどれも不十分だ。本当の解法は組み合わせであり、Agent フレームワーク側で実装する必要がある。Agent が動き始めてから後で防御を足しても、基本的に手遅れになる。
現時点で主要ベンダーはこの領域で遅れを取っている。Anthropic の Computer Use、OpenAI の Operator、Cognition の Devin、いずれもドキュメントを確認したが、基本線は「VM + prompt filter」という旧来のアプローチのままだった。
編集部の考察
なぜこれが OWASP LLM Top 10 より緊急なのか。
OWASP LLM Top 10 には prompt injection、訓練データポイゾニング、モデル窃取といった項目が並ぶ。これらはすべて「モデル層」のリスクで、攻撃面は入出力、モデルの重み、推論ロジックに限定される。
一方、Trail of Bits の記事が明らかにしたのは「能力層」のリスクだ。Agent がツールを手にした後、何ができて、何を行い、何を企てるか。この層のリスクはモデル層より一桁大きい。なぜなら現実のシステムに直接接続するからだ。
筆者の予測では、今後半年で Agent を開発する主要企業がこの問題を P0 優先度に格上げする。
理由:
- 最初の被害事例はまだ出ていないが、確率は確実に積み上がっている
- 企業が Agent 製品を導入する際、セキュリティ・コンプライアンスチームの審査は厳しくなる。VM サンドボックスが信頼できないという結論が出れば、調達フローで止まる
- 規制も追いつく。EU AI Act、米国の各州 AI 法案は、いずれ Agent の実行環境要件に踏み込む
具体的に、過去の何と決定的に違うのか。
過去 30 年間、セキュリティ業界は「自動化ツール」と戦い続けてきた。ワーム、ボットネット、自動化された攻撃フレームワークなどだ。しかしこれらはすべて決められたプログラムであり、振る舞いは予測可能だった。Agent は推論能力を持つ攻撃者であり、目標に応じて戦略を動的に調整し、コードを読んで脆弱性を理解し、exploit を書き、防御側の反応を見て次の手を考えられる。
これは量的な変化ではなく質的な変化だ。
不確実な点もある。Trail of Bits がテストしたのは彼らの Agent モデルであり、モデルによって攻撃能力には大きな差がある。Cognition の Devin と一般のオープンソース Agent では、ネットワーク攻撃能力に桁違いの差が出る可能性がある。この記事の結論は大規模モデルでより妥当するが、すべての Agent に等しく適用されるわけではない。
ただし、トレンドは明白だ。Agent が強くなればなるほど、VM サンドボックスは無力化する。