高盛計劃將 Claude Code 移出銀行家與交易員的日常工作流。爭議焦點不在於程式開發效率,而在於 Agent 能存取什麼、能執行什麼,以及出錯後由誰負責。
高盛撤下 Claude Code:金融業如何治理 Agent 權限
據 The State of AI 報導,高盛計劃將 Anthropic 的 Claude Code 移出銀行家與交易員的工作流程。相關消息登上 Hacker News 首頁,獲得 220 分及 142 則留言。
表面上看,這只是一則企業工具新聞,實際討論的卻是 Agent 權限治理:開發工具能讀取哪些程式庫、呼叫哪些系統、修改哪些資料,以及發生問題後由誰承擔責任。
原始報導:https://www.thestateofai.com/news/goldman-sachs-claude-code-traders-bankers
Hacker News 討論:https://news.ycombinator.com/item?id=50415628
高盛撤回 Claude Code,究竟發生了什麼
The State of AI 的報導指出,高盛計劃將 Anthropic 的 Claude Code 移出銀行家與交易員的工作流程。報導並未聚焦模型能否更快產生程式碼,而是著重 Claude Code 作為 Agent 所具備的行動能力。
此事登上 Hacker News 首頁,獲得 220 分及 142 則留言。討論集中在銀行內部系統是否應讓通用編碼 Agent 沿用員工權限,並直接操作程式碼、命令與服務。
撤回工具與禁止使用模型並不相同。高盛仍可能使用 Claude、GPT 或其他模型進行檢索、摘要與分析。真正的變化在於,模型提供建議,以及模型代表員工執行操作,屬於兩種不同的風險模型。
聊天式 Copilot 最多只能把程式碼貼在畫面上;Claude Code 這類工具則會讀取專案檔案、執行 shell 命令、修改程式碼,有時甚至能連接外部服務。提示詞一旦遭到污染,後續的工具呼叫也可能隨之偏離原意。
因此,高盛真正撤回的,可能不是「Claude」本身,而是缺乏細緻權限邊界的 Agent 使用方式。
真正的問題不是程式碼寫得不夠快
程式碼生成效率固然重要,但受監管機構面對的是另一組指標:資料隔離、職責分離、操作留痕、變更審批與事故回應。
假設 Claude Code 接入交易員的工作區,它可能看到:
- 策略程式碼與回測專案
- 客戶或訂單資料
- 內部 API 的存取權杖
- 部署、監控與告警系統
- 具備真實資金操作能力的腳本
Agent 的風險不只是「讀錯一段程式碼」。它可能把敏感內容寫入紀錄、誤刪檔案,或依據錯誤建議修改關鍵設定。更棘手的是,傳統權限系統很難分辨某項操作是「員工親自執行」,還是「Agent 根據員工提示執行」。
Copilot 的錯誤通常止於建議階段,人員會複製、審查後再執行;Agent 則能將建議直接轉化為行動,中間少了一層自然形成的人工檢查點。
這也是銀行不能直接套用一般 SaaS 權限管理方法來治理 Agent 的原因。若將 Agent 視為普通員工帳號,通常意味著它會繼承過於寬鬆的權限,例如存取整個程式庫、連接多套環境,以及執行部署命令。帳號一旦遭提示注入利用,影響範圍會依權限而非模型能力放大。
受監管機構真正關心的不是 Claude Code 寫程式碼的速度,而是三個問題:
- 它能接觸哪些資料?
- 它能改變哪些狀態?
- 發生錯誤後,能否還原過程並釐清責任?
將 Agent 視為人,還是服務帳號
我的判斷是,Agent 不應直接繼承員工的全部存取權,也不該被簡單視為「人」。更合適的抽象模型,是受約束的非人類服務帳號。
服務帳號必須面對明確的追蹤問題:程式碼以誰的身分執行、能讀取哪些資源、能執行哪些動作,以及有哪些資料流,都必須能在系統中查核。它應取得短期憑證,依任務臨時授權,並在任務結束後失效。
這不只是概念差異,而是會直接改變實作方式的差異。
如果 Agent 沿用銀行家的 SSO 權限,每次工具呼叫都可能使用該人員的完整工作階段。稽核紀錄只會顯示「某位銀行家執行了某項操作」,難以判斷該步驟究竟來自 Claude Code 的規劃、外部網頁,還是 Agent 自行組合的 shell 命令。
若 Agent 使用獨立身分,紀錄便能回答以下問題:
[09:31:04] agent=claude-code task=fix-trade-report
[09:31:07] granted read access to repo:risk-reporting
[09:31:11] denied write access to env:production
[09:31:14] proposed command: npm run test
[09:31:18] human approval requested
[09:31:22] human=trader_042 approved scoped test run
人員、任務、憑證、命令與審批可以彼此關聯。對受監管環境而言,這遠比「模型回答聽起來很專業」有用。
短期憑證同樣重要。Agent 的任務通常只持續數十分鐘至數小時,沒有必要讓憑證持續數週有效。憑證可綁定特定程式庫、環境與操作類型,並在任務結束時主動撤銷。
最小權限也不代表一味壓低權限,而是要依動作拆分。例如,允許讀取程式碼,不代表可以讀取 .env;允許執行單元測試,不代表可以執行部署腳本;允許建立分支,也不代表能合併至 main。
金融級權限隔離的落地清單
以下是給銀行、券商及其他受監管團隊的一份可執行清單。
1. 隔離執行環境
不要讓 Agent 預設執行在交易員或銀行家的日常裝置上。至少應將程式碼執行置於獨立容器、虛擬機器或專用 runner。
- 工作區使用暫時副本
- 掛載目錄依任務白名單設定
- 禁止預設存取宿主機 socket、Docker socket 與個人目錄
- 設定 CPU、記憶體、執行時間與磁碟配額
- 任務結束後銷毀暫時環境
容器並非完整的安全邊界,但比直接在員工終端機執行腳本更容易控制。尤其不要為求方便而將 Docker socket 掛載至容器。
2. 限制外部連線
Agent 能讀取文件,不代表它應存取任意網際網路資源。
- 使用網域 allowlist,而非僅設定對外連接埠
- 阻擋對雲端服務商 metadata 位址與內部管理網段的存取
- 檢查下載內容的檔案類型、大小與惡意檔案風險
- 將網頁、issue、PR 與相依套件視為不可信輸入
- 資料出境或對外傳送必須經過政策檢查
提示注入通常不需要複雜的模型攻擊。藏在 issue、README 或網頁中的一項指令,只要誘導 Agent 執行錯誤的工具呼叫,就可能造成真實影響。
3. 敏感操作二次確認
程式碼審查不應只攔截生產部署。讀取敏感資料、修改策略、呼叫交易介面與寄送郵件,都應依風險分級。
可以採用以下預設規則:
低風險:讀取目前程式庫、執行 lint、執行單元測試 -> 自動執行
中風險:建立分支、提交程式碼、修改 CI -> 顯示 diff 後確認
高風險:存取客戶資料、寫入生產環境、執行部署或資金相關命令 -> 獨立審批
確認頁面不能只顯示「是否允許 Claude 執行」,而應呈現完整命令、目標環境、涉及資料、變更 diff,以及可能產生的副作用。
4. 保留命令與資料存取紀錄
紀錄必須涵蓋完整鏈路,而不只是聊天內容。
至少應保存:
- 使用者身分與 Agent 身分
- 任務 ID、模型版本與工具版本
- 每次工具呼叫及其參數摘要
- 讀取、寫入與刪除的資料路徑
- shell 命令、退出碼與執行環境
- 人工批准、拒絕及批准者身分
- 密鑰引用與使用紀錄,但不得記錄明文密鑰
紀錄還應防止遭任意竄改,並設定合理的保存期限。對外部稽核而言,「知道發生過什麼」只是第一步,「能證明過程未被改寫」才是第二個關鍵要求。
5. 將政策落實到執行層
許多團隊只會替 Agent 寫一段系統提示詞,例如「不要修改生產環境」。但提示詞並不是權限控制。
正確做法是將限制落實至工具層。即使模型要求執行高風險命令,執行閘道也應予以拒絕;即使 prompt 遭到污染,服務帳號也應無法取得生產環境憑證。
可以先將工具分成三層:
safe_read -> 自動執行並記錄
scoped_write -> 通過政策檢查後執行,必要時請求確認
protected_ops -> 預設拒絕,僅允許特定角色或審批流程放行
政策通過後,由工具層簽發範圍受限的暫時憑證。如此一來,審批對象便不再是一段自然語言,而是具體操作。
6. 建立紅隊測試與撤銷機制
上線前應測試幾類常見情境:
- 程式庫 README 中藏有惡意指令
- Agent 嘗試讀取無關目錄
- 測試腳本夾帶生產 API 呼叫
- 批准後修改命令內容
- 某項任務取得的憑證被重複用於另一項任務
每個情境都應驗證「是否確實遭到拒絕」與「紀錄是否完整」。團隊也必須備妥一鍵停用工具、撤銷憑證及停用 Agent 身分的操作機制。
治理觀點
高盛撤下 Claude Code 的重要性,不在於它證明某個模型不適合金融業,而在於企業 Agent 的治理邊界開始由「建議什麼」轉向「可以做什麼」。過去 Copilot 主要產生文字或程式碼,人工執行前還有一次檢查;這次不同,Agent 能讀取程式庫、執行命令及修改系統,錯誤會直接進入執行鏈。
我的預測是,接下來企業不會直接回到沒有 Agent 的流程,而會拆出權限更窄的 Agent 版本:固定資料、固定工具與固定執行環境,再逐項開放權限。Claude Code 可能繼續用於開發,但交易、客戶資料與生產系統將採用獨立身分及短期憑證。
目前仍不確定報導中的「撤下」最終會是完全禁用、限制使用,還是改為受控試行;不同詮釋會直接影響權限改造的規模。但有一點已經很清楚:模型能力越強,權限設計就越不能依賴提示詞。