實戰

GLM-5.3 跨請求洩露 155 筆回應:共享 KV Cache 的風險遠不只於此

Cloudflare 揭露 Workers AI 的 GLM-5.3 發生跨請求 KV cache 暴露,共有 155 筆回應受影響。本文分析隔離機制、事件排查方式與完整修復清單。

字級

Cloudflare 揭露 Workers AI 提供的 GLM-5.3 模型出現跨請求 KV cache 暴露,共有 155 筆回應受影響。對使用該模型的團隊而言,這不只是輸出異常,更直接牽涉租戶隔離與快取作用域。

GLM-5.3 快取洩露 155 筆回應:共享 KV Cache 的風險遠不只於此

Cloudflare 揭露,Workers AI 提供的 GLM-5.3 模型存在跨請求 KV cache 暴露問題,共有 155 筆回應受到影響。

這並非單純的模型輸出偏差。快取中的內容可能由另一個請求進入目前回應,代表不同使用者之間共享了原本應該相互隔離的狀態。

相關消息登上 Hacker News 首頁,獲得 96 分與 30 則留言。開發者關注的焦點十分明確:模型服務究竟依據哪些邊界重複使用快取?

Cloudflare 已針對此事發布漏洞分析與修復說明,內容涵蓋快取重複使用的邊界,以及事件發生後的處置方式。原文:https://blog.cloudflare.com/kv-cache-exposure-remediation/

問題不只是一次內容混雜

先確認已知事實。

  • Cloudflare 揭露 GLM-5.3 Workers AI 模型存在跨請求 KV cache 暴露問題。
  • 暴露發生在模型服務的 KV cache 機制中。
  • 不同請求可能共享原本應該隔離的快取內容。
  • 揭露範圍涵蓋 155 筆回應。
  • Hacker News 條目獲得 96 分與 30 則留言。

相較於「偶爾出現一筆異常回應」,155 這個數字更值得警戒。

單次錯誤可能源於排程抖動、請求中斷或暫時性狀態污染;若連續多筆回應受到影響,則必須回答更具體的問題:哪些請求會命中同一個快取鍵?重複使用發生在哪一層?失效邏輯是否將不同租戶視為同一個工作區?

對使用者而言,最危險的也不只是回應混入他人的文字。快取內容可能包含敏感輸入、模型產生的中間狀態,或由多個請求拼接而成的上下文。僅檢查最終輸出,往往很難判斷污染範圍。

這也是 Cloudflare 特別發布漏洞說明,而非僅提供狀態更新的原因。團隊需要掌握受影響版本、觸發條件、修復措施與後續檢查方式。

KV Cache 為何會跨請求暴露

KV cache 是大模型推理中的常見最佳化手段。

模型處理 prompt 時,會為 token 序列產生 Key 與 Value。後續請求若具有相同或相近的前綴,推理系統便可重複使用已計算的 KV,減少重複運算,並降低延遲與推理成本。

問題出在系統如何判定「相同或相近」。

簡化後的快取鍵可能採用以下方式產生:

import hashlib
import json

def cache_key(model: str, tenant_id: str, prompt: str) -> str:
    payload = json.dumps(
        {
            "model": model,
            "tenant_id": tenant_id,
            "prompt": prompt,
        },
        sort_keys=True,
    )
    return hashlib.sha256(payload.encode("utf-8")).hexdigest()

這段程式碼本身沒有問題,因為它明確將 tenant_id 納入快取鍵。

真正的風險通常藏在快取鍵之外:

  • 路由層先依模型、前綴或硬體位置重複使用 KV,之後未再檢查租戶識別碼。
  • 快取儲存層雖依租戶分區,查找時卻只使用 prompt hash。
  • 請求經過重試、遷移或預熱後,原本的作用域資訊因而遺失。
  • 快取項目過期時間過長,租戶或工作階段已切換,舊項目卻仍可被讀取。
  • 並行請求共用同一批 KV block,其中部分 block 來自另一個工作階段。

在多租戶模型服務中,快取重用包含三層決策:

  1. 哪些請求可以共用前綴。
  2. 快取項目儲存在哪個分區。
  3. 命中結果是否仍屬於目前的租戶與工作階段。

只處理第一層,並不代表隔離已經完成。

傳統 Web 快取的邊界通常較為明確:URL、查詢參數、Cookie 與 Vary header 共同決定回應歸屬。模型 KV 則更複雜,因為快取的是推理狀態,而非一則完整的 HTTP 回應。其重用條件取決於 token 前綴、排程位置、模型版本與執行裝置。

一旦作用域沒有隨 KV 一起傳遞,隔離便會在系統內部失效。

155 筆回應比單次異常更值得深入調查

排查這類問題,不能只問「是否有使用者看到錯誤內容」,還要確認觸發條件與可否驗證。

至少應涵蓋四類檢查:

  • 同一租戶、同一工作階段的連續請求是否出現非預期內容。
  • 不同租戶使用相同或相近 prompt 時,是否可能命中同一批 KV。
  • 請求重試、區域切換與執行個體遷移後,快取作用域是否維持不變。
  • 模型版本、快取格式或部署設定變更後,舊項目是否仍被重複使用。

155 筆回應不等於 155 位使用者。這些回應可能來自少數工作階段,也可能橫跨多個帳號。在取得去重後的請求數、租戶數與工作階段數之前,無法準確計算影響半徑。

同樣地,「已經修復」也不等於「影響已經查清」。

較為完整的揭露應提供:受影響的時間區間、快取命中條件、租戶層級的影響數量、處置方式,以及能否證明不存在未被觀測到的污染。如果 155 是系統稽核得到的數字,就應說明統計口徑;若僅來自主動掃描或抽樣結果,也應明確標示。

目前公開摘要指出有 155 筆回應受到影響,但完整觸發路徑與更細緻的影響範圍,仍需搭配 Cloudflare 後續說明核對。

修復不能只靠清空快取

清空快取通常是必要動作,但並不足夠。

KV cache 是有狀態資料。即使刪除現有項目,若路由、鍵生成、失效策略與重試邏輯未修正,同類問題仍會再次發生。

Cloudflare 的修復說明涉及快取重用邊界與暴露後的處置措施。在工程實作上,至少需要驗證四個層面。

第一層是快取鍵。租戶、工作階段、模型版本等隔離維度,不能依賴呼叫端自覺傳入。

第二層是儲存與讀取。快取分區、查詢條件與項目 metadata 必須採用同一套作用域規則。

第三層是生命週期。過期、驅逐、遷移與 rollback 必須同步清理或遷移狀態,不能留下可跨作用域讀取的舊項目。

第四層是日誌與稽核。日誌需記錄快取項目識別碼、作用域、命中結果與項目來源,但不得將敏感 prompt 或完整 KV 寫入日誌。

回歸測試也不能只檢查「答案是否正確」。可以建立兩個 prompt 相同、租戶不同的請求,檢查回應是否混入另一租戶的獨有內容:

from collections.abc import Callable

def assert_no_cross_tenant_leak(
    invoke: Callable[[str, str], str],
    first_tenant: str,
    second_tenant: str,
    marker: str,
) -> None:
    first = invoke(first_tenant, "The deployment region is us-east-1.")
    second = invoke(second_tenant, "The deployment region is us-east-1.")

    assert marker not in first
    assert marker not in second

這裡刻意讓兩個請求使用相同 prompt。測試目的在於驗證基礎設施的作用域,而不是利用 prompt 差異把問題「藏起來」。

實際測試還應涵蓋並行、 重試與執行個體切換。若只依序執行兩次,很容易漏掉排程競爭。

對 Workers AI 使用者的實際影響

使用 GLM-5.3 的團隊,不應預設模型服務天然具備租戶隔離。

先檢查輸入。

若請求包含客戶資料、程式碼、內部工單、密鑰片段或個人資訊,應確認這些內容是否可能被寫入共享快取,以及日誌與快取的保留時間長度。

接著檢查上下文。

不要假設上一輪對話的狀態不會進入目前回應。對 Agent 或長時間工作階段的應用尤其如此:使用者識別碼、session ID 與業務租戶 ID,應在每次請求中明確傳遞。

同時核對回應歸屬。

當模型回傳來源識別碼、系統附加資訊或工作階段摘要時,應以程式將其與請求上下文比對。人工抽查只能協助發現問題,不能證明問題不存在。

最後檢查快取失效策略。

權限變更、使用者刪除、工作階段結束、模型升級與區域遷移,都應觸發對應範圍的失效作業,不應等待自然過期。

這裡還有一個容易混淆的觀念:傳統 Web 快取漏洞通常會洩露完整回應或部分內容;模型 context window 問題則涉及模型能否記住目前工作階段的內容。本次事件更接近共享推理狀態的作用域錯誤,既不是單純的 HTTP 快取權限設定問題,也不是模型「記性太好」。

後續設計的關鍵

這次事件的重要性,不在於 155 這個數字有多麼引人側目,而在於共享推理基礎設施將「效能重用」與「安全邊界」綁在了一起。KV cache 能降低延遲與成本,但一旦缺少租戶層級的約束,省下的運算便可能以跨請求洩露為代價。

更值得关注的是修復後的長期設計:快取鍵是否由服務端強制產生,租戶作用域是否涵蓋寫入、查找、遷移與失效的完整流程。預期後續的模型 API 會將快取隔離選項與保留策略做成明確設定,不再讓使用者預設共享。

這與過去的 Web 快取漏洞不同,因為洩露對象是推理狀態;也不同於 context window 過長造成的問題,因為後者通常發生在同一工作階段內。本次事件跨越了請求歸屬邊界。不過,目前公開資訊仍不足以還原完整觸發路徑,也缺少去重後的受影響租戶數。155 筆回應能證明問題確實存在,卻不能取代完整的影響評估。

來源

https://blog.cloudflare.com/kv-cache-exposure-remediation/

來源: https://blog.cloudflare.com/kv-cache-exposure-remediation/