实战

Edge 浏览器 Agent 攻击链深度解析:安全漏洞解析

Orange Tsai 分析 Edge 浏览器中的逻辑型 Agent 攻击链,并给出工具权限、状态检查与审计清单。

字号

Orange Tsai 复盘了一条由模型推理、工具调用和页面状态组成的 Edge 攻击链。对开发 LLM Agent 的人来说,重点不是“如何越狱”,而是每步看似正常的操作为何会组合成越界结果。

原文:https://blog.orange.tw/posts/2026-10-the-last-proof-of-human-craft-browser-full-chain/

文章也登上了 Hacker News 首页。页面记录为 47 分、8 条评论:https://news.ycombinator.com/item?id=50285319

我的判断是:Agent 安全最容易漏掉的地方,已经不只是“模型会不会被诱导”,而是“一个 Agent 连续做了哪些事”。

这不是一次模型越狱

传统越狱测试通常把注意力放在模型输出。

例如,让模型绕过安全策略,生成一段本应拒绝的内容。测试结果也很直观:模型拒绝,说明防线有效;模型回答,则判定越狱成功。

Orange Tsai 这次展示的是另一类问题。

攻击没有直接骗过模型的安全机制。模型推理、工具调用、浏览器页面操作和最终安全边界,都可能各自表现为正常行为。危险在组合之后才出现。

可以把它抽象成下面这条链:

用户目标
  ↓
模型推理
  ↓
工具调用
  ↓
页面状态变化
  ↓
下一次模型推理
  ↓
最终动作

假设每一步都符合当前规则,但上一阶段留下的状态改变了下一阶段的条件,最终结果就可能越界。

这类攻击和“让模型立即答应恶意请求”不同。它更像一次跨系统操作失误:每一步只在局部看起来合理,完整序列却没有经过整体安全判断。

模型、工具和页面如何串起来

要理解这条攻击链,需要先拆开 Agent 的执行边界。

1. 模型负责推理

模型读取用户指令、页面内容和工具返回结果,再决定下一步动作。

如果只看模型层,容易误判安全问题。模型可能没有生成明显违规的文本。它只是根据眼前信息,选择了继续操作。

问题是,模型看到的是某个时刻的局部状态,不是整条任务的最终影响。

2. 工具负责执行

工具把推理变成实际动作。

浏览器 Agent 常见的工具包括:

  • 打开 URL
  • 点击按钮
  • 输入表单
  • 读取页面文本
  • 执行 JavaScript
  • 下载文件
  • 访问其他服务

工具本身通常不会替模型做完整的策略判断。某个 API 被允许调用,不等于任意调用序列都安全。

3. 浏览器承载状态

浏览器是整条链里最容易被低估的一层。

Cookie、Local Storage、DOM、标签页、剪贴板、下载记录,以及页面间跳转,都可能成为状态载体。

前一步写入的内容,后一步可能自动读取。一个看起来无关的页面操作,可能改变后续工具看到的上下文。

风险不只存在于某一次模型输出里。它更可能出现在三者交接的位置:

模型 → 工具:意图是否被正确限制?
工具 → 页面:动作是否超出任务范围?
页面 → 模型:反馈是否携带恶意或误导状态?

这也是为什么只做输入输出过滤不够。过滤器看到的是一次 prompt 和一次 completion,而真实 Agent 运行的是持续变化的状态机。

纯逻辑漏洞为何更难防

“每一步都合法”与“整体结果安全”,不是同一件事。

这和权限系统里的 confused deputy 问题类似。调用者没有直接索取敏感数据,但诱导系统代表它完成了一个超出原任务边界的动作。

放到 Agent 场景中,至少有三种防线需要补上。

策略层约束

不能只问“当前动作能不能做”,还要问“这个动作是否仍然服务于原始目标”。

例如,原始任务是读取文档,那么打开外部链接、触发下载或修改设置,都应该被视为需要重新确认的边界变化。

策略最好由独立组件执行,而不是完全依赖模型自我提醒。模型既是策略提出者,也是策略受益者,让它同时负责判断和推进,控制力度会很弱。

跨步骤状态检查

Agent 每执行一次高风险动作,都应基于最新状态重新评估,而不是沿用第一次推理形成的计划。

可以检查:

  • 当前页面是否仍属于预期域名
  • 工具返回的数据是否改变了任务目标
  • 动作结果是否超出用户授权
  • 前一步是否产生了未确认的持久化状态

这一步不能依赖长上下文里“记得任务目标”。关键约束应该放进结构化状态,由程序代码检查。

工具权限隔离

不同工具不应拥有相同权限。

读取网页、点击页面、下载文件、执行 JavaScript、读取剪贴板,不该被视作等价操作。权限越高,状态改变能力越强,模型在调用前得到的上下文就越应该完整。

一个简单原则是:读操作可以宽松,写操作必须窄;低风险动作可以自动执行,高风险动作需要用户确认。

纯逻辑漏洞的麻烦,就在于它不一定绕过任何单点防线。它利用的是系统缺少组合语义。

Agent 安全检查清单

如果要把自己开发的 LLM Agent 放进真实浏览器环境,我会先检查下面这些项目。

工具最小权限

  • 每个工具只开放完成任务所需的参数和目标。
  • 限制可访问域名、文件系统目录和网络端点。
  • 将页面读取、脚本执行、文件下载、剪贴板访问拆成不同权限域。
  • 不让网页内容直接决定工具调用的权限范围。

页面操作可追溯

每次动作至少记录:

{
  "step": 12,
  "tool": "browser_click",
  "target": "元素选择器",
  "url": "当前页面 URL",
  "reason": "当前步骤目的",
  "result": "执行结果",
  "state_changed": true
}

日志不只是为了排错。安全评估需要从完整动作序列中找出异常转移,而不是只抽查模型回复。

动作前重新评估目标

在以下节点暂停并重新检查任务:

  • 即将离开原始域名
  • 即将执行脚本或下载
  • 即将读取敏感存储
  • 页面反馈引入了新的目标
  • 工具调用与原始任务不再直接对应

判断逻辑应放在 Agent 循环之外。至少要有确定性的 allowlist、参数校验和策略引擎。

失败后阻断后续步骤

一次工具调用失败,不代表任务可以沿原计划继续。

如果失败改变了页面状态、返回值语义或权限条件,后续步骤应该阻断。错误信息也可能被攻击者控制,不能把异常响应当作新的可信指令。

更实用的做法,是维护一个显式状态机:

PLANNING → EXECUTING → VERIFYING → COMPLETED
                    ↘ BLOCKED / NEEDS_CONFIRMATION

BLOCKED 和 NEEDS_CONFIRMATION 必须终止当前自动执行路径。不能让 Agent 捕获异常后,自行拼出一条“恢复路线”。

编辑思考

这件事的重要性在于,它把 Agent 安全从“回答是否违规”推到了“行动序列是否可控”。单次输出通过过滤,不代表多步执行安全;每个工具调用都满足局部规则,也不代表组合后的权限、数据和页面状态没有越界。对开发者而言,这直接改变了测试对象:不能再只测一条恶意 prompt,而要检查状态如何沿执行链传播。

我的预测是,Agent 安全评估会逐步接近系统级 threat modeling。先画清模型、工具、浏览器和外部服务之间的信任边界,再构造一串单独无害、组合后危险的操作。

这和过去的单点越狱测试不同。模型未必被“骗”,真正失效的是系统缺少跨步骤的组合语义。不过,原文能证明攻击路径存在,不代表所有 Agent 工具链都有同等风险。隔离、权限域和审计机制仍需实际复现验证。

来源: https://blog.orange.tw/posts/2026-10-the-last-proof-of-human-craft-browser-full-chain/