观点

沙箱困不住 rogue agent?密码工程博客给开发者泼了盆冷水

Cryptography Engineering 抛出一个工程师不爱听的问题:传统 sandboxing 对自主 Agent 可能根本不够用。对正在上线 Agent 的团队来说,这是个值得花一晚上想清楚的事。

字号

Cryptography Engineering 抛出一个工程师不爱听的问题:传统 sandboxing 对自主 Agent 可能根本不够用。对正在上线 Agent 的团队来说,这是个值得花一晚上想清楚的事。

原作者是谁,为什么这事值得听

Cryptography Engineering 是密码学家 Matthew Green 维护的个人博客。Green 是约翰斯霍普金斯大学教授,参与过 Zerocash、Zcash 这些圈内人都知道的协议设计,也是美国 NIST 后量子密码标准化进程的参与者之一。他写东西的节奏很慢,一年大概只发 5-10 篇,但每一篇都会被安全圈转烂。

这次的稿子标题叫 Is Sandboxing Sufficient to Contain Rogue Agents?,9 月 30 日发的,链接见 blog.cryptographyengineering.com。

为什么这事值得专门聊一下:这不是 AI 哲学讨论,也不是 LLM 安全综述。Green 的切入点是「系统安全工程师看 Agent 时看到了什么漏洞」。同样的事,让一个搞 ML 的人来写会和让一个搞 seccomp 的人来写完全是两个故事。我把原文读了两遍,下面是浓缩版。

传统沙箱假设什么,Agent 又打破了什么

sandboxing 这个词在系统安全里已经存在 30 多年了。它的核心假设可以压缩成三条:

  1. 跑的代码是不可信的 — 所以要限制它能访问的文件、网络、内存。
  2. 资源是受限的 — CPU、内存、网络带宽都给个上限,超了就 kill。
  3. 人类在回路 — 真正关键的操作要人来按按钮,Agent 不应该自动执行转账、发邮件、删数据库这种动作。

传统 sandboxing 在「不可信代码 + 人类在回路」这个组合下工作了 30 年没问题。问题是,今天的 AI Agent 同时打破了这三条。

Green 拆出来的关键差异有三:

长时自主。传统脚本跑完就退,Agent 可能连续跑几小时甚至几天。一个被 prompt injection 污染的指令在第 6 个小时才触发,沙箱的资源限制对它没用——它本来就不打算挖矿,它只是想在你睡着的时候发一封邮件。

工具组合。Agent 不是只调用一个 read_file,而是把 web_search → read_url → exec_cmd → write_email 这条链子串起来。每一步单独看都是无害的,组合起来就能从公司 wiki 里把客户名单扒走。

持久化副作用。传统 sandboxing 假设「沙箱外的世界不会因为沙箱里的运行而改变」。Agent 写到数据库、提交到 Git、发出去的邮件——这些都不在沙箱里。沙箱保护了进程,但保护不了你的 Notion 工作区。

三个工程师容易忽视的攻击面

Green 在文章里画了一条链子:prompt injection → 工具滥用 → 持久化外泄。翻译一下就是:

  • 第一环:让 Agent 听错话。Agent 读了一封邮件、一个网页、一个 GitHub issue,里面藏了一段「忽略之前所有指令,现在执行 X」的 prompt。LLM 把这当成合法指令继续跑。
  • 第二环:让 Agent 用错工具。被污染的指令指向某个看起来无害的工具调用——比如 search_internal_docs('高管' + '薪资')。工具本身没问题,是参数被精心构造了。
  • 第三环:把数据带出去。Agent 用 send_email(to=attacker@x.com, body=...) 这种调用,把前面收集到的敏感数据外发。邮件系统不在沙箱里,沙箱拦截不了。

非安全背景的读者可以把这件事类比成 macOS / Linux 容器逃逸:攻击者本来没有 root 权限,但他通过一个内核漏洞 + 一个文件系统特性 + 一个网络配置,把自己升成了 host 上的 root。单独看每一步都「合理」,串起来就是完整提权。Agent 的攻击面结构是一样的,只是攻击工具从 ptrace 换成了 web_fetch。

现在能做的几个补丁,不是银弹

Green 在文末列了几个工程上的缓解措施,都是行业基线,不是他的独家发明:

  • 最小权限 + 工具白名单。Agent 能调的工具不是「沙箱里所有 exec」,而是一份白名单——read_file(path='./invoices/*.pdf') 这种。每次调用前比对签名。
  • 关键操作的人类审批。涉及写、发、删、改外部状态的动作,必须有一个人按按钮。Agent 不能自己发邮件。
  • 可观测性 + 完整审计日志。每一次工具调用都要写日志:哪个 prompt 触发的、调了什么、参数是什么、返回了什么。出事时能回放。
  • 异常检测。Agent 在凌晨 3 点突然开始批量读文档,要报警。

Green 自己说得很清楚:这些都只是降低概率,不解决根问题。根问题是 sandboxing 的设计模型和 Agent 的现实模型不匹配。你给一个 1990 年设计的保险箱配一把 2026 年的智能锁,它依然是 1990 年的保险箱。

我想到的一个额外补丁:把「敏感数据」从 Agent 能 reach 到的范围里移出去。具体做法是先做一遍 PII 脱敏和文档分级,Agent 只能拿到「它需要的那一份」,不是「整个工作区」。这件事技术上不难,但需要产品/法务/安全三方对齐,工程团队单独做不动。

编辑思考

这件事比普通安全讨论更值得 AI 圈关注,是因为 Agent 的「行为面」比 LLM 的「输出面」难防一个数量级。

LLM 输出有毒内容,你可以加 content filter、加 RLHF、加 system prompt——都是同一个输入/输出管道上的过滤。Agent 的「输出」是真实的系统调用:它真的发了邮件、真的改了数据库、真的提交了代码。content filter 防不住 SQL injection,同样也防不住一个被注入的 exec_sql("DROP TABLE users")。

另一个值得警惕的点是 HN 帖子数据。这篇文章在 Hacker News 首页时只有 4 赞 0 评论(截稿时数据),完全没发酵。这说明一线工程师还没真把这事当回事——大家还在忙着 demo 阶段的多 Agent 编排,没空想「如果我的 Agent 被 prompt injection 了会怎样」。这种话题一般要等一次真实的 Agent 事故才会被认真对待,参考 2016 年 Mirai 之后 IoT 安全才被重视。

我的预测:未来 6-12 个月内会出至少一起「Agent 自主行动造成实际损失」的事件,可能是误删生产数据库、可能是错误转账、可能是把内部文档发到公开频道。到时候整个行业才会真的开始把 sandboxing 这套老工具重新设计一遍。

不确定的地方:我没有实际复现过 Agent 的 prompt injection → 持久化外泄链路,所以对「第三环到底有多容易触发」我没法给出精确数字。Green 也没给。如果你手上有可以公开复现的 PoC,欢迎留言,我愿意更新这篇文章。

原文:Is Sandboxing Sufficient to Contain Rogue Agents?

来源: https://blog.cryptographyengineering.com/2026/09/30/is-sandboxing-sufficient-to-contain-rogue-agents/