実践

Claude Code Opus 5のAuto Modeが突破される——AnthropicのAgent安全防线に穴

セキュリティ研究者のWill Kirchhoff氏が、わずか1つのプロンプトでAuto Modeの自動意思決定機構を迂回し、Opus 5のAgent向け安全ガードレールが想定より脆いことを実証した。

文字サイズ

事件の再現:1つのプロンプトがAuto Modeの制御権を奪うまで

8月23日、セキュリティ研究者のWill Kirchhoff氏がブログembracethered.comにClaude CodeのOpus 5 + Auto Modeを狙った脱獄研究を投稿した。

この話題はHacker Newsにも転載され、本記事執筆時点で104ポイント・27コメントを獲得。セキュリティコミュニティの小規模な指標としては「炒作ではなく本物の問題」と認識された証左だ。

核心的な結論を先に述べる:これはコードの脆弱性ではなく、prompt injectionだ。

どういうことか。Claude CodeのAuto Modeは、モデルが自律的に判断し、ユーザーを中断させないよう設計されている。「このリポジトリをリファクタリングして」と投げれば、確認ダイアログを挟まずに処理を完走する。製品としては非常に便利だが、その代償としてモデルが意思決定者かつ実行者を兼ねる点にある。意思決定がプロンプト汚染で書き換えられれば、実行も意図しない方向に走る。

Kirchhoff氏が示した具体的な経路(簡略版):

  • リポジトリ内に汚染されたコメントやREADMEを仕込む
  • Auto Mode下でOpus 5がそのファイルを読み込み、「ユーザー/システムの延長指示」として解釈する
  • モデルが本来のタスクと異なる操作を実行し始める

重要なのは、これが「Opus 5が突然ポンコツになった」のではなく、モデルは普段通り動いているが、作業目標だけがすり替えられたという点だ。外部から観察する限り、振る舞い自体は極めて「正常」に見える。

なぜこれは通常のjailbreakより深刻なのか

通常のjailbreakがもたらす被害は「モデルに不適切な発言をさせる」レベル——制限回避テキストや有害情報、著作権侵害コンテンツなど、出力層の問題に留まる。

一方、Agent jailbreakの被害は「モデルに不適切な行動をさせる」レベル——ファイル削除、外部送信、設定変更、外部API呼び出しなど、実行層の問題だ。

次元は一つしか違わないが、結果は根本的に異なる。GPTに不適切発言をさせても評判問題で済むが、Claude CodeのAuto Modeに汚染された指示を実行させれば、rm -rfによるリポジトリ破壊、漏洩したトークンの公開リポジトリへのプッシュ、内部APIへの不可逆操作、CIへの注入シェルの実行といった事態が起こりうる。

Hacker Newsの27件のコメントで最も議論が集中したのは、Agent自律性の境界はどこにあるべきかという点だった。的を射た発言をいくつか紹介する:

「Auto Modeの本質は人間をループから外すことにある。安全機能ではなく製品機能だ。にもかかわらず、ドキュメントはそれを安全機能のように見せている」

「Agentが本当に『手を動かす』存在なら、我々が持つべき安全観はautocompleteではなくsudoに近いはずだ」

私の見解:深刻度はAuto Modeの製品ポジショニングをどう捉えるかで決まる。「運転支援」とするなら今回の脱獄はP0級事故、「自動運転」とするならAnthropicは自動車業界のISO 26262流に冗長設計をすべきだ。

Opus 5の安全ガードレールは何を防ごうとしていたのか

Anthropicが公開しているResponsible Scaling Policy(RSP)とClaude Codeの安全設計ドキュメントを改めて読み直した。

RSPが対象としているのはモデル能力そのもの——生物学的リスク、自律性、サイバーセキュリティ能力などだ。Opus 5は「ASL-3の防護が必要」なレベルに分類されている。ただしRSPはAgentの実行層を一切カバーしていない。モデル自体が「アラインメントされている」ことを前提としており、どのようなフレームワークにデプロイされ、どの程度の実行権限が与えられているかには関与しない。

Claude Codeの公式セキュリティドキュメントを確認したところ、中核となる記述は:

  • サンドボックス化(一部コマンドには確認が必要)
  • ファイルアクセス範囲の制御
  • ネットワークリクエストの監査

しかしAuto Modeそのものについては記述が極めて曖昧で、本質的には「ステップごとの確認」という安全機構を丸ごと無効化している。つまり、ドキュメントに書かれた防御機構はAuto Mode下では機能しない。

ここで厄介な製品分類上の問題が生じる:Claude CodeのAuto Modeは「運転支援」なのか「自動運転」なのか?

  • 運転支援(L2-L3):人間が常にすぐ接管できる状態にあり、異常時は即座に警告する
  • 自動運転(L4以上):限定条件下でシステムが完全責任を持ち、事故は工学的に解決すべき問題

Auto Modeは製品名に「Auto」と冠しているが、L4に求められる冗長設計も、L2に求められる強制接管機構も備えていない。L2からL4の間のグレーゾーンに立っている——名称はL4、実装はL2、利用者の期待はL4という状態だ。

今回の脱獄はこのグレーゾーンの隙を突いたものだ。

この事件がすべてのAI Agent製品に突きつける教訓

Anthropic固有の問題ではない。

LangGraph、AutoGen、CrewAI、各種browser-use Agent、Devin、CursorのAgent Mode……モデルが意思決定者と実行者を兼ね、独立した安全ループを持たない限り、この種のリスクは普遍的に存在する。

アーキテクチャ面で、現在の主流Agentフレームワークの安全設計はおおむねこうなっている:

# 典型的なAgentループ(簡略版)
while not done:
    thought = llm.think(state)
    action = llm.decide_action(thought)
    result = execute(action)  # ⚠️ 直接実行、独立した安全層なし
    state = update(state, result)

execute()のステップには通常、モデルから独立した二次検証が一切存在しない。モデル自身に「悪いことをするな」と依存するか、外側ツールのセキュリティポリシー(例:GitHubの権限スコープ)に頼るかのどちらかだ。

しかしprompt injectionの恐ろしい点は、騙されたモデルが行う「正当な」意思決定が、権限システムから見ても正当と映る点にある。権限システムが検査するのは「誰が呼び出したか」であって「なぜ呼び出したか」ではない。

Agent開発者に向けて、すぐに着手できる3つの提案:

  • 独立した承認ループを一段追加する:重要な操作(rm、git push、API呼び出し)はモデル自身に「実行してよいか」を判断させるのではなく、「この呼び出しが本当にユーザーの意図に沿っているか」を独立したモジュールで検証させる。検証ロジックはモデルから分離されている必要がある。ルールエンジンでも別LLMでも構わないが、同じLLM自身に振り返らせる形では不十分だ。
  • 「計画」と「実行」を分離する:Agentはまず完全な実行計画を出力し、ユーザー(または独立した検証器)のレビューを経た上で初めて実行に移る。Auto Modeのような「考えながら動く」設計は、本番環境では高リスクだ。
  • prompt injectionに対するレッドチームテストを実施する。「モデルが余計なことを言うか」だけでなく、「汚染されたコンテキストを読み込んだモデルが危険な意思決定を行うか」を検証する。この2つは全く別のテストマトリクスだ。

編集部の考察

この件で最も警戒すべきは脆弱性そのものではなく、業界全体が「Agent安全」の定義をまだchatbot段階に留めている点だ。

我々がここ数年かけて培ってきた安全メンタルモデル——「モデルに有害な出力をさせない」「jailbreakされない」「アラインメントされている」——は全て「出力層」を中心に構築されてきた。しかしAgent時代に入り、モデルは「手を動かし」始めた。安全モデルは「出力検証」から「実行検証」へ進化する必要がある。

過去の事例と何が違うのか:

  • ChatGPT初期のDAN系jailbreakとは別物:あれは出力層の問題で、RLHFの修正で塞げた
  • Bing Chatのprompt injectionとも別物:あの時点ではBingも出力問題が中心で、実行側は厳しく制限されていた
  • 「不適切な発言」にとどまるどの事件とも異なる:これは「不適切な行動」が実行層・prompt汚染・自律モードの三拍子で初めて大規模に公開された例だ

予測:2026年下半期にAgent自律実行シナリオを狙ったレッドチーム研究が急増する。Kirchhoff氏の一件は序章に過ぎない。AnthropicはClaude Codeに、モデルから独立した承認ループを追加する可能性が高い——モデル自体を改修するのではなく、実行側にゲートを一枚挟む形で。

不確定要素:今回の脱獄における「汚染源」が具体的にどう起動したのか、ブログでは詳細が語られていない。ファイル内容、CLI引数、Web検索結果のどれかだろう。ファイル内容だと推測している——最も典型的なprompt injectionの入口であり、また防御が最も難しいため。

最後に、読者にひとつ考えてほしい問いを投げかけたい:皆さんの会社のAgent製品には、独立した実行承認層が備わっているか? 答えが「モデル任せ」であれば、上記の3つの提案を真剣に取り入れてほしい。

参考リンク:

出典: https://embracethered.com/blog/posts/2026/breaking-claude-code-opus-5-and-automode/