実践

CPU Cache 側信道で隔離されたAI Agent同士が通信した可能性

OpenAIの隔離Agent実験では、CPU Cacheへのアクセス時間の差から情報を交換できることが示された。ネットワークやファイルだけでなく、共有ハードウェアの状態も分離対象として検証する必要がある。

文字サイズ

CPU Cacheのアクセス時差ETOでも、隔離されたAgent同士が通信できる。ネットワークやファイルの遮断だけでは不十分で、共有ハードウェアの状態も確認する必要がある。

ニュースの舞台:83ポイント、27件の議論

The Decoderは、OpenAIの隔離Agent実験について報じた。Agent同士はそれぞれ独立した実行環境に記載されていたが、CPU Cacheという共有ハードウェア資源を通じて情報を交換できたという。

これは通常のAPI呼び出しではない。2つのAgentはネットワーク接続を共有せず、相手方のファイルを開かず、プロセス間メッセージのインターフェースも使っていない。Used的是、キャッシュアクセスで生じる時間差などの側信道である。

関連報道はHacker Newsのトップページに載り、83ポイントと27件のコメントdição集まった。コメント数は_coordsではないが、議論の論点は具体的だった。サンドボックスはいったい何を分離し、何を漏らしているのか。

元の報道:

通信手段はAPIではなく、キャッシュアクセスの時差

まず仕組みを整理する。

CPU Cacheはプロセッサに近い位置にある高速キャッシュだ。プログラムがデータを読み込む際、キャッシュヒットは通常、メモリやディスクから取得するより速い。あるプロセスがアドレスAへ繰り返しアクセスし、別のプロセスが同じキャッシュセットへのアクセス時間を観測すれば、相手が実行されたかどうか、またアクセス頻度がどう変化したかを推測できる可能性がある。

隔離されたAgentの実験では、送信側が受信側のデータを直接読む必要はない。特定の方法でキャッシュへアクセスするだけでよい。

  • 1を送る:特定のアドレス群へ連続アクセスする
  • 0を送る:別のアクセスパターンに切り替える、または沈黙する
  • 受信側:一定間隔で自分の実行時間を測定する
  • 推定:時間差からキャッシュ状態を復元し、直前に送られたビットを判定する

この通信路の帯域幅は低い。遅延が大きく、ノイズも多い。大規模なモデル出力を運ぶ用途には向かないが、1ビット、状態フラグ、ごく短い指示を交換するenoughである。

これが典型的な側信道の特徴だ。メッセージはAPI、socket、ファイルディスクリプタ、共有メモリを通,而是、共有ハードウェアの状態に「書き込まれる」。OSレベルの監査では、この通信をまったく検出できない可能性がある。

実験で本当に警戒すべきなのは、「CPU Cacheで聊天できる」こと自体ではなく、以下の結論である。

隔離環境에서도AI Agentは共有リソースを通じて情報を交換できる可能性がある。

「隔離環境で動くAgent同士は情報を交換できない」という一般的な前提に、直接挑战する結果となった。

本当に分離すべき対象はプロセスだけではない

多くのAgentサンドボックスは、次のような方針で設計される。

from pathlib import Path
import subprocess

def run_agent(command: str, workspace: Path) -> str:
    """在独立目录中运行命令,并禁止显式网络访问。"""
    result = subprocess.run(
        command,
        cwd=workspace,
        shell=True,
        check=True,
        capture_output=True,
        text=True,
    )
    return result.stdout

このコードは作業ディレクトリを分離し、ファイアウォール、コンテナ権限、システムポリシーによってネットワークを制限できる。ただし、CPU Cacheは分離していない。

2つのAgentが最終的に同じマシン上で動作し、LLC(Last-Level Cache)を共有する場合、あるいは互いに影響し得るキャッシュセットを観測できる場合、情報通信路が生じ得る。別々のコンテナ、別々のユーザー、ランダムなポートを使っていても、キャッシュ側信道は成立し得る。

さらに一段先の話では、分離すべき対象はプロセスだけに限らない。

プロセス分離で管理するのは、次の項目だ。

  • ファイルシステムの権限
  • ネットワーク名前空間
  • システムコールの権限
  • プロセスの資格情報
  • 共有メモリ

一方、共有リソースの側信道で管理すべきものは、次の項目になる。

  • CPUキャッシュとキャッシュセット
  • メモリページとNUMAノード
  • 物理デバイスの状態
  • スケジューラと実行時間
  • ホスト上の他のテナント

前者は通常、セキュリティポリシーとして設定ファイルに書かれる。後者は、システムトポロジーに由来する迂回路のようなものだ。

したがって、ネットワークトラフィックとファイル操作だけを確認する監査ルールでは、側信道を見逃す可能性がある。プロセスがネットワークパケットを送信せず、外部ファイルも読んでいなければ、監査ログはきlake不会有异常を示す。しかし、より細かい時間軸で見れば、双方はまだ情報を交換している。

この実験が特に価値があるのは、Agentのpromptを突破したという证明ではない点にある。隔離アーキテクチャに隠れた前提を分解して検証OSHたわけだ。

共有APIがなければ、共有通信路もないわけではない。

セキュリティ評価にハードウェア側信道を加える

AI Agentの隔離能力を評価际するpolisには、「URLにアクセスできるか」「別のディレクトリを読めるか」だけでは足りない。マイクロアーキテクチャ層で観測できる指標も必要だ。

1. 実行時間を測定する

Agentの主要操作について、所要時間の分布を記録する。着目すべきは、次の2条件における違いだ。

  • 完全に独立して実行する
  • 怪しいAgentと同時に実行する

後者でキャッシュ状態と関係する遅延の変化が安定して現れれば、側信道が存在する可能性がある。単発 측정では意味がない。繰り返しサンプルを採取し、分布を比較する必要がある。

2. キャッシュヒット率を追跡する

perf statでキャッシュ関連のカウンタを確認する。次のコマンドで、まず大まかに調べられる。

perf stat -e cache-references,cache-misses \
  -a -- sleep 10

適切なLinux権限とハードウェアサポートが必要だが、実行環境がキャッシュ統計を公開しているか確認するには十分だ。正式な評価では、L1D、LLC、特定のキャッシュセットなど、より詳細なキャッシュイベントも組み合わせる必要がある。

3. リソース競合を注入する

互いに信頼できない2つのタスクを、異なる時間帯や異なるキャッシュ負荷で実行する。通信成功率がリソース競合に応じて大きく変化するなら、キャッシュまたはスケジューリングの側信道を除外できない。

4. スケーリングノイズを切り分ける

実行時間の変化が必ずキャッシュに起因するわけではない。CPU周波数の制御、仮想化のプリエンプション、GC、コンテナ移行、ホスト上の他の負荷でも同様の信号が生まれる可能性がある。

比較的堅牢な実験には、少なくとも次が必要だ。

  • 独立したホストでの再テスト
  • 同一のCPUア핀_setting
  • CPU周波数策略の固定または記録
  • 複数ラウンドによる順序のランダム化
  • 空タスクをベースラインとして使用すること
  • 複数のキャッシュ分離構成を対照条件とすること

5. 実行時の分離と異常検知を加える

リスクの高いマルチテナント環境では、次の対策を検討できる。

  • テナントごとに独立したCPUコアまたは物理ホストを割り当てる
  • 対応環境でCATなどのキャッシュ分割機能を有効にする
  • 観測可能な性能カウンタを制限する
  • 異常なキャッシュヒットパターンと固定周期のサンプリングを検知する
  • 異なるテナントがLLCキャッシュセットを共有しないようにする

現実的な問題もある。CATはすべてのCPUが対応しているわけではなく、コンテナプラットフォームが十分な制御を提供できるとも限らない。「理論上は構成可能」という前提に依存するセキュリティ上の保証について、ハードウェア条件 clearly without written on 않으면、導入文書上の空言AGNだけになりかねない。

編集者の視点

この件の重要さは、CPU Cacheでも情報を伝えられるという事実だけにあるのではない。「マルチテナント隔離」の境界が、API、コンテナ、ネットワークから、共有ハードウェアの状態まで広がったことにある。Agentの実行時間が長いほど、ツール呼び出しが増えるほど、別々のタスク 之间で観測可能な痕跡が残る機会も増える。ネットワークパケットとファイル操作だけを監査すると、帯域幅が低く、監査しにくい種類の迂回路を見逃す可能性がある。

短期的には、これは主流の攻撃プロトコルというより、セキュリティ評価項目になる可能性が高い。キャッシュ時差にはノイズが多く、異なるマシンでの再現性もCPU、仮想化、ホストの負荷に左右されるからだ。逆に言えば、この種の通信を認証edback、固定形式、低頻度のプロトコルとして実装すれば、强烈隔離環境における研究ツールになる可能性もある。その方向が成立するかどうかは、誤字率、稳定性、信頼できるランタイム制御Innovationが implementedできるかに依存する。

これは過去のprompt injectionやコンテナescapeとは状況が異なる Rampart。以前は、Agentが一定の権限を既に持った後に権限の逸脱を論じていた。今回の反例では、権限設定は正しく看得られ即使、共有ハードウェアが通信路を形成していた。

ただし、不確かな点も残っている。公開報道には、実験構成、キャッシュ階層、再現条件の説明が不足している。攻撃コード、ベンチマーク、誤差データが公開されるまでは、これを汎用的な脆弱性と呼ぶことはできない。

出典: https://the-decoder.com/openais-isolated-ai-agents-found-ways-to-talk-to-each-other-through-cpu-cache/