実践

Claude Code の撤収Administrativeから考えるAgent権限ガバナンス

高盛が銀行家・トレーダーの業務フローでClaude Codeを撤収すると的消息を通じて、規制対象$m

文字サイズ

高盛は銀行家・トレーダーの業務フローでClaude Codeを撤収する計画だ。重点はコーディング効率だけでなく、Agentが何をアクセスし、何を実行でき、トラブル発生時に誰が責任を負うかにある。

Claude Codeの高盛撤収で何が起きたのか

The State of AIによると、高盛はAnthropicのClaude Codeを銀行家・トレーダーの業務フローから撤収する計画だ。報道の中心は、モデルが迅速なコードを生成できるかどうかではなく、Claude CodeというAgentが持つ行動能力に置かれた。

この話はHacker Newsのフロントページに揭載され、220ポイントと142件のコメントを集めた。議論の中心は、銀行の内部システムで汎用コーディングAgentが従業員の権限を継承し、コード、コマンド、サービスを直接操作すべきかという点だった。

ツールを撤収することと、モデルの利用そのものを禁止することは違う。高盛は引き続き、Claude、GPT、その他のモデルを検索、要約、分析に使う可能性がある。変わるのは、モデルが出力する提案と、モデルが従業員に代わって操作を実行する行為が、異なるリスクモデルになる点だ。

チャット型のCopilotは、最悪の場合でもコードを画面に表示するだけだ。Claude Codeのようなツールは、プロジェクトファイルを読み、shellコマンドを実行し、コードを修正する。外部サービスに接続することもある。プロンプトが汚染されれば、ツール呼び出しも誤った方向へ進む。

したがって、高盛が実際に撤収した対象は「Claude」ではなく、詳細な権限境界を欠いたAgent利用そのものだった可能性がある。

元記事:The State of AI

Hacker Newsでの議論:Hacker News

本当の問題は、コード生成が遅いことではない

コード生成の効率は重要だが、規制対象の組織が向き合うのは別の指標群だ。データ分離、職務分離、操作の追跡記録、変更承認、インシデント対応がそれに当たる。

Claude Codeがトレーダーの作業領域に接続されたと仮定する。Agentは次のようなものを見られる可能性がある。

  • 戦略コードとバックテストプロジェクト
  • 顧客データや注文データ
  • 内部APIのアクセストークン
  • デプロイ、監視、アラートシステム
  • 実資金の操作が可能なスクリプト

Agentが犯す問題は、単にコードを誤読するだけでは収まらない。機密情報をログに書き込む、ファイルを誤って削除する、誤った提案に基づいて重要な設定を変更する、といった事態が起こり得る。より厄介なのは、従来の権限システムでは、「従業員が自分で実行した」と「Agentが従業員の指示に基づいて実行した」を区別しにくいことだ。

Copilotの誤りは通常、提案の段階にとどまる。人は이를コピーし、レビューしてから実行する。Agentは提案を直接行動へ変換できる。自然な 사람의確認工程が一つ省かれる。

これは、银行が通常のSaaSに適用する権限管理をAgentへそのまま流的することができない理由でもある。Agentを通常の従業員アカウントとして扱うと、広い権限を継承する結果になりやすい。repository全体閲覧、複数環境へのアクセス、デプロイコマンドの実行などがすべて可能になり、prompt injectionに悪用されれば、影響範囲はモデルの能力ではなく権限の広さに比例して拡大する。

規制対象の組織が本当に気にしているのは、Claude Codeが速くコードを生成できるかではなく、次の三つの問いだ。

  1. どのデータに触れられるか。
  2. どの状態を変更できるか。
  3. トラブル時に、過程を再現し、責任を明確にできるか。

Agentを人として扱うか、サービスアカウントとして扱うか

見立てを述べると、Agentは従業員の全アクセス権をそのまま継承すべきではなく、単に「人」として扱うべきでもない。より適切な抽象化は、制約された非人的サービスアカウントだ。

サービスアカウントには、明確な的问いがある。コードをどのアイデンティティで実行し、どのリソースを読み、どのアクションを実行し、どのようなデータフローを経るのかを、システム上で追跡できるようにしなければならない。短期的な認証情報を使い、タスクごとに権限を付与し、終了時に失効させるべきだ。

これは単なる概念上の違いではなく、実装方式を直接変える違いである。

Agentが銀行家のSSO権限を継承すると、各ツール呼び出しが人の完全なセッションを使う可能性がある。監査ログには「ある銀行家が某操作を実行した」としか記録されない。その手順がClaude Codeの計画によるのか、外部Webページによるのか、Agent自身が組み立てたshellコマンドによるのか,很难判别できない。

一方、Agentが独立したアイデンティティを使うなら、ログで次のことを説明できる。

[09:31:04] agent=claude-code task=fix-trade-report
[09:31:07] granted read access to repo:risk-reporting
[09:31:11] denied write access to env:production
[09:31:14] proposed command: npm run test
[09:31:18] human approval requested
[09:31:22] human=trader_042 approved scoped test run

人、タスク、認証情報、コマンド、承認を関連付けられる。規制環境においては、「モデルの回答が“How听起来か”的に-professional Sampaないか보다こちらが有用だ。答案是、規制環境で重要なのは、モデルの回答が有多少说服力かではなく、実行記録を明確にできることである。

短期的な認証情報も重要である。Agentのタスクは通常、数十分から数時間で終わるため、認証情報を数週間有効にする必要はない。認証情報は特定のrepository、環境、操作種別に紐付け、タスク終了時に明示的に吊销.Handler卿卿合理的。

最小権限も、単に権限を極小に絞るという意味ではない。アクションごとに分割することである。コードの読み取りを許可しても、.envの読み取りまで許可したわけではない。単体テストの実行を許可しても、デプロイスクリプトの実行を許可したわけではない。branchの作成を許可しても、mainへのmergeまで許可したわけではない。

金融_AXIS_SUBSCRIBEの権限分離を実装するチェックリスト

以下は、銀行、証券会社、その他の規制対象チームのための実行可能なチェックリストである。

1. 実行環境を分離する

Agentを-TRADERS_や銀行家の通常端末でデフォルト実行させてはならない。少なくともコード実行は、独立したcontainer、virtual machine、専用runnerへ分離する。

  • 作業領域には一時的な複製を使用する
  • mount directoryはタスクごとのallowlistで設定する
  • host socket、Docker socket、個人ディレクトリへのアクセスをデフォルトで禁止する
  • CPU、memory、実行時間、diskのquotaを設定する
  • タスク終了後に一時環境を破棄する

containerだけではsecurity boundaryを完全には担保できないが、従業員の端末上で直接スクリプトを実行するより管理しやすい。便宜のためDocker socketをcontainerへmountしないことを Particularly重要にする。

2. 外部接続を制限する

Agentがドキュメントを読む必要性と、任意のインターネットへアクセスできることは別だ。

  • outbound portだけでなくdomain allowlistを使用する
  • cloud providerのmetadata addressと内部管理networkへの接続をblockする
  • download contentについて、type、size、malicious fileを確認する
  • Web page、issue、PR、dependency packageをuntrusted inputとして扱う
  • データの外部送信やdata egressはpolicy checkを通す

Prompt injectionは通常、複雑なmodel attackによって実行されるわけではない。issue、README、Web pageに隠された指示が、Agentに誤ったtool callを実行させさえすれば、実際の害をもたらす。

3. 機密性の高い操作には再確認を適用する

code reviewで止めるべきなのは、production deployだけではない。sensitive dataの読み取り、strategyの変更、trading interfaceの呼び出し、メール送信もrisk levelに応じて分ける必要がある。

次のようなdefault ruleを採用できる。

低リスク:現在のrepositoryの読み取り、lintの実行、単体テストの実行 -> 自動実行
中リスク:branchの作成、commit、CIの変更 -> diffを表示して確認
高リスク:顧客データへのアクセス、productionへの書き込み、deployまたは資金関連コマンドの実行 -> 独立した承認

確認画面には「Claudeの実行を許可しますか」だけを表示してはならない。完全なcommand、対象environment、関係するdata、変更diff、発生し得るside effectを表示する必要がある。

4. コマンドとデータアクセスのログを残す

ログにはチャット内容だけでなく、完全な実行の連鎖を記録する。

  • user identityとAgent identity
  • task ID、model version、tool version
  • 各tool callと引数の要約
  • 読み取り、書き込み、削除されたdata path
  • shell command、exit code、execution environment
  • 人手によるapprove、rejectと承認者のidentity
  • secretの参照履歴と利用履歴。ただし平文のsecretは記録しない

ログは恣意的に改ざんできないようにし、妥当なretention periodを設定する。external auditにとって、「何が発生したか」を知ることだけでは第一步である。「過程が書き換えられていないことを証明する」ことが次の 단계だ。

5. Policyを実行層に組み込む

多くのチームは「本番環境を変更しない」のようなsystem promptをAgentへ渡すだけで済ませている。Promptは権限制御ではない。

制限をtool layerで実現すべきである。Modelが高リスクなcommandの実行を要求しても、execution gatewayは拒否しなければならない。Promptが汚染されていても、service accountはproduction credentialを取得できない。

まずtoolを三つの層に分ける方法がある。

safe_read     -> 自動実行して記録
scoped_write  -> policy check後に実行し、必要なら確認を要求
protected_ops -> デフォルトで拒否し、特定roleまたは承認processでのみ許可

Policyを通過してから、tool layerがscopeを限定したtemporary credentialを発行する。承認対象は自然言語ではなく、具体的なactionになる。

6. Red teamと失効の仕組みを作る

本番投入前に、次のような一般的なシナリオをテストする。

  • repositoryのREADMEに悪意あるcommandを隠す
  • Agentが無関係なdirectoryへのアクセスを試みる
  • test scriptにproduction API callを仕込む
  • 承認後にcommand内容を変更する
  • あるtaskで取得したcredentialを別のtaskで再利用する

各シナリオでは、「拒否が起きたか」と「ログが完全か」を検証する。加えて、toolの一括停止、credentialの吊销、Agent identityの無効化を即座に実行する仕組みを用意する。

編集者の視点

高盛によるClaude Codeの撤収が重要なのは、あるmodelが金融業界に適さないことを証明したからではない。企業のAgentを統制する境界が、「何を提案するか」から「何を実行できるか」へ移り始めたからだ。従来のCopilotは主にtextやcodeを生成し、人による実行前に確認の工程があった。しかし今回は、Agentがrepositoryを読み、commandを実行し、systemを変更でき、誤りがそのまま実行の連鎖に入り込む。

次のmovementでは、企業が単純にAgentを廃止する従来の流れへ戻るとは限らない。よりscopeの狭いAgent版を切り出し、data、tool、runtimeを固定したうえで、権限を一つずつ開いていくと予想する。Claude Codeは開発用途で使われ続ける一方、trading、顧客data、production systemでは独立したidentityとshort-lived credentialを使うことになるだろう。

hammerるべき点elper:报道中的「撤下」最终是全面禁用、限制使用,还是改为受控试点。不同解释会影响权限改造的规模。但有一点已经很清楚:模型能力越强,权限设计越不能依赖提示词。报道でuttingされた「撤収」が全面禁止、制限利用、制御された試験導入のどれを意味するかは不明だ。解釈によって、permission designの規模は変わる。しかし、modelの能力が强烈수록、権限設計をpromptだけに依存させてはならないという点はすでに明確である。

出典: https://www.thestateofai.com/news/goldman-sachs-claude-code-traders-bankers