Orange Tsai 復盤了一條由模型推理、工具呼叫與頁面狀態共同構成的 Edge 攻擊鏈。對開發 LLM Agent 的團隊而言,重點不在於「如何越獄」,而是每個看似正常的步驟為何會串連成最終的越界結果。
原文:https://blog.orange.tw/posts/2026-10-the-last-proof-of-human-craft-browser-full-chain/
該文章也曾登上 Hacker News 首頁。當時頁面記錄為 47 分、8 則評論:https://news.ycombinator.com/item?id=50285319
我的判斷是:Agent 安全最容易遭到忽視的地方,已不只是「模型會不會受到誘導」,而是「Agent 連續執行了哪些操作」。
這不是一次典型的模型越獄
傳統的越獄測試通常把焦點放在模型輸出。
例如,要求模型繞過安全政策,生成原本應該拒絕的內容。測試結果也很直接:模型拒絕,代表防線有效;模型回答,便判定越獄成功。
Orange Tsai 這次展示的是另一類問題。
攻擊並未直接騙過模型的安全機制。模型推理、工具呼叫、瀏覽器頁面操作與最終安全邊界,各自看起來都可能完全正常。真正的風險,是這些行為組合之後才浮現。
整條鏈可以抽象成以下形式:
text
使用者目標
↓
模型推理
↓
工具呼叫
↓
頁面狀態變化
↓
下一次模型推理
↓
最終動作
假設每個步驟都符合當下規則,但前一個階段留下的狀態改變了下一階段的條件,最終結果仍可能越界。
這類攻擊不同於「讓模型立即答應惡意請求」。它更像是跨系統的操作失誤:每一步在局部都合理,整個序列卻未經過整體安全判斷。
模型、工具與頁面如何串接
要理解這條攻擊鏈,必須先拆解 Agent 的執行邊界。
1. 模型負責推理
模型讀取使用者指令、頁面內容與工具回傳結果,再決定下一個動作。
若只看模型層,很容易誤判安全問題。模型可能並未產生明顯違規的文字,只是依據當下資訊選擇繼續操作。
問題在於,模型看到的是特定時間點的局部狀態,而非整項任務的最終影響。
2. 工具負責執行
工具將推理轉換成實際動作。
瀏覽器 Agent 常用的工具包括:
- 開啟 URL
- 點擊按鈕
- 填寫表單
- 讀取頁面文字
- 執行 JavaScript
- 下載檔案
- 存取其他服務
工具本身通常不會替模型進行完整的策略判斷。某個 API 獲准呼叫,並不表示任意呼叫序列都是安全的。
3. 瀏覽器承載狀態
瀏覽器是整條鏈中最容易遭到低估的一層。
Cookie、Local Storage、DOM、分頁、剪貼簿、下載紀錄,以及頁面間的跳轉,都可能成為狀態載體。
前一步寫入的內容,可能被後一步自動讀取。一個看似無關的頁面操作,也可能改變後續工具所看到的脈絡。
風險不只存在於某一次模型輸出,更可能出現在三者交接的位置:
text
模型 → 工具:意圖是否受到正確限制?
工具 → 頁面:動作是否超出任務範圍?
頁面 → 模型:回饋是否攜帶惡意或誤導狀態?
這也是為何只做輸入與輸出過濾並不夠。過濾器只看見一次 prompt 與一次 completion,但真實的 Agent 執行的是持續變動的狀態機。
純邏輯漏洞為何更難防範
「每一步都合法」與「整體結果安全」,並不是同一件事。
這與權限系統中的 confused deputy 問題類似。呼叫者並未直接索取敏感資料,卻誘導系統代其執行超出原始任務邊界的動作。
在 Agent 情境中,至少有三種防線需要補上。
策略層約束
不能只問「目前動作能不能執行」,還要問「這個動作是否仍在服務原始目標」。
例如,原始任務是讀取文件,那麼開啟外部連結、觸發下載或修改設定,都應視為需要重新確認的邊界變化。
策略最好由獨立元件執行,而非完全依賴模型自我提醒。模型既是策略提出者,也是策略受益者;若同時負責判斷與推進,控制力道會非常薄弱。
跨步驟狀態檢查
Agent 每執行一次高風險動作,都應依據最新狀態重新評估,而不是沿用第一次推理所形成的計畫。
可以檢查:
- 目前頁面是否仍位於預期網域
- 工具回傳的資料是否改變了任務目標
- 動作結果是否超出使用者授權範圍
- 前一步是否產生未經確認的持續性狀態
這個環節不能依賴長脈絡中的「記憶」來維持任務目標。關鍵約束應納入結構化狀態,並由程式碼檢查。
工具權限隔離
不同工具不應擁有相同權限。
讀取網頁、點擊頁面、下載檔案、執行 JavaScript 與讀取剪貼簿,不應被視為等價操作。權限越高,變更狀態的能力越強,模型在呼叫前取得的脈絡就應越完整。
一個簡單原則是:讀取操作可以寬鬆,寫入操作必須嚴格;低風險動作可自動執行,高風險動作則需使用者確認。
純邏輯漏洞的棘手之處,在於它未必繞過任何單點防線,而是利用系統缺乏組合語意。
Agent 安全檢查清單
若要將自行開發的 LLM Agent 放進真實瀏覽器環境,我會先檢查以下項目。
工具最小權限
- 每項工具只開放完成任務所需的參數與目標。
- 限制可存取的網域、檔案系統目錄與網路端點。
- 將頁面讀取、腳本執行、檔案下載與剪貼簿存取拆分為不同權限域。
- 不讓網頁內容直接決定工具呼叫的權限範圍。
頁面操作可追溯
每次動作至少應記錄:
json
{
"step": 12,
"tool": "browser_click",
"target": "元素選擇器",
"url": "目前頁面 URL",
"reason": "目前步驟目的",
"result": "執行結果",
"state_changed": true
}
日誌不只是為了排錯。安全評估需要從完整動作序列中找出異常轉移,而不是僅抽查模型回覆。
動作前重新評估目標
在以下節點暫停並重新檢查任務:
- 即將離開原始網域
- 即將執行腳本或下載
- 即將讀取敏感儲存空間
- 頁面回饋引入了新的目標
- 工具呼叫與原始任務已不再直接對應
判斷邏輯應置於 Agent 迴圈之外。至少要具備確定性的 allowlist、參數驗證與策略引擎。
失敗後阻斷後續步驟
一次工具呼叫失敗,不代表任務能依原計畫繼續。
若失敗改變了頁面狀態、回傳值語意或權限條件,後續步驟就應遭到阻斷。錯誤訊息也可能受攻擊者控制,不能把異常回應視為新的可信指令。
更實務的做法,是維護一套明確的狀態機:
text
PLANNING → EXECUTING → VERIFYING → COMPLETED
↘ BLOCKED / NEEDS_CONFIRMATION
BLOCKED 與 NEEDS_CONFIRMATION 必須終止目前的自動執行路徑。不能讓 Agent 捕捉例外後,自行拼湊出一條「復原路線」。
編輯觀點
這件事的重要性,在於它把 Agent 安全從「回答是否違規」推向「行動序列是否可控」。單次輸出通過過濾,不代表多步驟執行安全;每項工具呼叫都符合局部規則,也不代表組合後的權限、資料與頁面狀態沒有越界。對開發者而言,這直接改變了測試對象:測試不能只涵蓋一條惡意 prompt,還要檢查狀態如何沿執行鏈傳播。
我的預測是,Agent 安全評估會逐步接近系統層级的 threat modeling。開發者必須先釐清模型、工具、瀏覽器與外部服務之間的信任邊界,再構造一連串單獨看似無害、組合後卻可能造成危害的操作。
這與過去的單點越獄測試不同。模型未必遭到「欺騙」,真正失效的是系統缺乏跨步驟的組合語意。不過,能證明攻擊路徑存在,並不代表所有 Agent 工具鏈都有同等風險。隔離、權限域與稽核機制,仍須透過實際重現加以驗證。