實戰

高盛撤下 Claude Code:金融業如何治理 Agent 權限

高盛擬將 Claude Code 移出銀行家與交易員的日常工作流,核心風險在於 Agent 能讀取哪些資料、執行哪些操作,以及事故發生後的責任歸屬。本文從獨立身分、最小權限、人工審批、稽核紀錄與撤銷機制出發,提供受監管團隊可落地的治理清單。

字級

高盛計劃將 Claude Code 移出銀行家與交易員的日常工作流。爭議焦點不在於程式開發效率,而在於 Agent 能存取什麼、能執行什麼,以及出錯後由誰負責。

高盛撤下 Claude Code:金融業如何治理 Agent 權限

據 The State of AI 報導,高盛計劃將 Anthropic 的 Claude Code 移出銀行家與交易員的工作流程。相關消息登上 Hacker News 首頁,獲得 220 分及 142 則留言。

表面上看,這只是一則企業工具新聞,實際討論的卻是 Agent 權限治理:開發工具能讀取哪些程式庫、呼叫哪些系統、修改哪些資料,以及發生問題後由誰承擔責任。

原始報導:https://www.thestateofai.com/news/goldman-sachs-claude-code-traders-bankers

Hacker News 討論:https://news.ycombinator.com/item?id=50415628

高盛撤回 Claude Code,究竟發生了什麼

The State of AI 的報導指出,高盛計劃將 Anthropic 的 Claude Code 移出銀行家與交易員的工作流程。報導並未聚焦模型能否更快產生程式碼,而是著重 Claude Code 作為 Agent 所具備的行動能力。

此事登上 Hacker News 首頁,獲得 220 分及 142 則留言。討論集中在銀行內部系統是否應讓通用編碼 Agent 沿用員工權限,並直接操作程式碼、命令與服務。

撤回工具與禁止使用模型並不相同。高盛仍可能使用 Claude、GPT 或其他模型進行檢索、摘要與分析。真正的變化在於,模型提供建議,以及模型代表員工執行操作,屬於兩種不同的風險模型。

聊天式 Copilot 最多只能把程式碼貼在畫面上;Claude Code 這類工具則會讀取專案檔案、執行 shell 命令、修改程式碼,有時甚至能連接外部服務。提示詞一旦遭到污染,後續的工具呼叫也可能隨之偏離原意。

因此,高盛真正撤回的,可能不是「Claude」本身,而是缺乏細緻權限邊界的 Agent 使用方式。

真正的問題不是程式碼寫得不夠快

程式碼生成效率固然重要,但受監管機構面對的是另一組指標:資料隔離、職責分離、操作留痕、變更審批與事故回應。

假設 Claude Code 接入交易員的工作區,它可能看到:

  • 策略程式碼與回測專案
  • 客戶或訂單資料
  • 內部 API 的存取權杖
  • 部署、監控與告警系統
  • 具備真實資金操作能力的腳本

Agent 的風險不只是「讀錯一段程式碼」。它可能把敏感內容寫入紀錄、誤刪檔案,或依據錯誤建議修改關鍵設定。更棘手的是,傳統權限系統很難分辨某項操作是「員工親自執行」,還是「Agent 根據員工提示執行」。

Copilot 的錯誤通常止於建議階段,人員會複製、審查後再執行;Agent 則能將建議直接轉化為行動,中間少了一層自然形成的人工檢查點。

這也是銀行不能直接套用一般 SaaS 權限管理方法來治理 Agent 的原因。若將 Agent 視為普通員工帳號,通常意味著它會繼承過於寬鬆的權限,例如存取整個程式庫、連接多套環境,以及執行部署命令。帳號一旦遭提示注入利用,影響範圍會依權限而非模型能力放大。

受監管機構真正關心的不是 Claude Code 寫程式碼的速度,而是三個問題:

  1. 它能接觸哪些資料?
  2. 它能改變哪些狀態?
  3. 發生錯誤後,能否還原過程並釐清責任?

將 Agent 視為人,還是服務帳號

我的判斷是,Agent 不應直接繼承員工的全部存取權,也不該被簡單視為「人」。更合適的抽象模型,是受約束的非人類服務帳號。

服務帳號必須面對明確的追蹤問題:程式碼以誰的身分執行、能讀取哪些資源、能執行哪些動作,以及有哪些資料流,都必須能在系統中查核。它應取得短期憑證,依任務臨時授權,並在任務結束後失效。

這不只是概念差異,而是會直接改變實作方式的差異。

如果 Agent 沿用銀行家的 SSO 權限,每次工具呼叫都可能使用該人員的完整工作階段。稽核紀錄只會顯示「某位銀行家執行了某項操作」,難以判斷該步驟究竟來自 Claude Code 的規劃、外部網頁,還是 Agent 自行組合的 shell 命令。

若 Agent 使用獨立身分,紀錄便能回答以下問題:

[09:31:04] agent=claude-code task=fix-trade-report
[09:31:07] granted read access to repo:risk-reporting
[09:31:11] denied write access to env:production
[09:31:14] proposed command: npm run test
[09:31:18] human approval requested
[09:31:22] human=trader_042 approved scoped test run

人員、任務、憑證、命令與審批可以彼此關聯。對受監管環境而言,這遠比「模型回答聽起來很專業」有用。

短期憑證同樣重要。Agent 的任務通常只持續數十分鐘至數小時,沒有必要讓憑證持續數週有效。憑證可綁定特定程式庫、環境與操作類型,並在任務結束時主動撤銷。

最小權限也不代表一味壓低權限,而是要依動作拆分。例如,允許讀取程式碼,不代表可以讀取 .env;允許執行單元測試,不代表可以執行部署腳本;允許建立分支,也不代表能合併至 main。

金融級權限隔離的落地清單

以下是給銀行、券商及其他受監管團隊的一份可執行清單。

1. 隔離執行環境

不要讓 Agent 預設執行在交易員或銀行家的日常裝置上。至少應將程式碼執行置於獨立容器、虛擬機器或專用 runner。

  • 工作區使用暫時副本
  • 掛載目錄依任務白名單設定
  • 禁止預設存取宿主機 socket、Docker socket 與個人目錄
  • 設定 CPU、記憶體、執行時間與磁碟配額
  • 任務結束後銷毀暫時環境

容器並非完整的安全邊界,但比直接在員工終端機執行腳本更容易控制。尤其不要為求方便而將 Docker socket 掛載至容器。

2. 限制外部連線

Agent 能讀取文件,不代表它應存取任意網際網路資源。

  • 使用網域 allowlist,而非僅設定對外連接埠
  • 阻擋對雲端服務商 metadata 位址與內部管理網段的存取
  • 檢查下載內容的檔案類型、大小與惡意檔案風險
  • 將網頁、issue、PR 與相依套件視為不可信輸入
  • 資料出境或對外傳送必須經過政策檢查

提示注入通常不需要複雜的模型攻擊。藏在 issue、README 或網頁中的一項指令,只要誘導 Agent 執行錯誤的工具呼叫,就可能造成真實影響。

3. 敏感操作二次確認

程式碼審查不應只攔截生產部署。讀取敏感資料、修改策略、呼叫交易介面與寄送郵件,都應依風險分級。

可以採用以下預設規則:

低風險:讀取目前程式庫、執行 lint、執行單元測試 -> 自動執行
中風險:建立分支、提交程式碼、修改 CI -> 顯示 diff 後確認
高風險:存取客戶資料、寫入生產環境、執行部署或資金相關命令 -> 獨立審批

確認頁面不能只顯示「是否允許 Claude 執行」,而應呈現完整命令、目標環境、涉及資料、變更 diff,以及可能產生的副作用。

4. 保留命令與資料存取紀錄

紀錄必須涵蓋完整鏈路,而不只是聊天內容。

至少應保存:

  • 使用者身分與 Agent 身分
  • 任務 ID、模型版本與工具版本
  • 每次工具呼叫及其參數摘要
  • 讀取、寫入與刪除的資料路徑
  • shell 命令、退出碼與執行環境
  • 人工批准、拒絕及批准者身分
  • 密鑰引用與使用紀錄,但不得記錄明文密鑰

紀錄還應防止遭任意竄改,並設定合理的保存期限。對外部稽核而言,「知道發生過什麼」只是第一步,「能證明過程未被改寫」才是第二個關鍵要求。

5. 將政策落實到執行層

許多團隊只會替 Agent 寫一段系統提示詞,例如「不要修改生產環境」。但提示詞並不是權限控制。

正確做法是將限制落實至工具層。即使模型要求執行高風險命令,執行閘道也應予以拒絕;即使 prompt 遭到污染,服務帳號也應無法取得生產環境憑證。

可以先將工具分成三層:

safe_read     -> 自動執行並記錄
scoped_write  -> 通過政策檢查後執行,必要時請求確認
protected_ops -> 預設拒絕,僅允許特定角色或審批流程放行

政策通過後,由工具層簽發範圍受限的暫時憑證。如此一來,審批對象便不再是一段自然語言,而是具體操作。

6. 建立紅隊測試與撤銷機制

上線前應測試幾類常見情境:

  • 程式庫 README 中藏有惡意指令
  • Agent 嘗試讀取無關目錄
  • 測試腳本夾帶生產 API 呼叫
  • 批准後修改命令內容
  • 某項任務取得的憑證被重複用於另一項任務

每個情境都應驗證「是否確實遭到拒絕」與「紀錄是否完整」。團隊也必須備妥一鍵停用工具、撤銷憑證及停用 Agent 身分的操作機制。

治理觀點

高盛撤下 Claude Code 的重要性,不在於它證明某個模型不適合金融業,而在於企業 Agent 的治理邊界開始由「建議什麼」轉向「可以做什麼」。過去 Copilot 主要產生文字或程式碼,人工執行前還有一次檢查;這次不同,Agent 能讀取程式庫、執行命令及修改系統,錯誤會直接進入執行鏈。

我的預測是,接下來企業不會直接回到沒有 Agent 的流程,而會拆出權限更窄的 Agent 版本:固定資料、固定工具與固定執行環境,再逐項開放權限。Claude Code 可能繼續用於開發,但交易、客戶資料與生產系統將採用獨立身分及短期憑證。

目前仍不確定報導中的「撤下」最終會是完全禁用、限制使用,還是改為受控試行;不同詮釋會直接影響權限改造的規模。但有一點已經很清楚:模型能力越強,權限設計就越不能依賴提示詞。

來源: https://www.thestateofai.com/news/goldman-sachs-claude-code-traders-bankers