Cloudflare 揭露 Workers AI 提供的 GLM-5.3 模型出現跨請求 KV cache 暴露,共有 155 筆回應受影響。對使用該模型的團隊而言,這不只是輸出異常,更直接牽涉租戶隔離與快取作用域。
GLM-5.3 快取洩露 155 筆回應:共享 KV Cache 的風險遠不只於此
Cloudflare 揭露,Workers AI 提供的 GLM-5.3 模型存在跨請求 KV cache 暴露問題,共有 155 筆回應受到影響。
這並非單純的模型輸出偏差。快取中的內容可能由另一個請求進入目前回應,代表不同使用者之間共享了原本應該相互隔離的狀態。
相關消息登上 Hacker News 首頁,獲得 96 分與 30 則留言。開發者關注的焦點十分明確:模型服務究竟依據哪些邊界重複使用快取?
Cloudflare 已針對此事發布漏洞分析與修復說明,內容涵蓋快取重複使用的邊界,以及事件發生後的處置方式。原文:https://blog.cloudflare.com/kv-cache-exposure-remediation/
問題不只是一次內容混雜
先確認已知事實。
- Cloudflare 揭露 GLM-5.3 Workers AI 模型存在跨請求 KV cache 暴露問題。
- 暴露發生在模型服務的 KV cache 機制中。
- 不同請求可能共享原本應該隔離的快取內容。
- 揭露範圍涵蓋 155 筆回應。
- Hacker News 條目獲得 96 分與 30 則留言。
相較於「偶爾出現一筆異常回應」,155 這個數字更值得警戒。
單次錯誤可能源於排程抖動、請求中斷或暫時性狀態污染;若連續多筆回應受到影響,則必須回答更具體的問題:哪些請求會命中同一個快取鍵?重複使用發生在哪一層?失效邏輯是否將不同租戶視為同一個工作區?
對使用者而言,最危險的也不只是回應混入他人的文字。快取內容可能包含敏感輸入、模型產生的中間狀態,或由多個請求拼接而成的上下文。僅檢查最終輸出,往往很難判斷污染範圍。
這也是 Cloudflare 特別發布漏洞說明,而非僅提供狀態更新的原因。團隊需要掌握受影響版本、觸發條件、修復措施與後續檢查方式。
KV Cache 為何會跨請求暴露
KV cache 是大模型推理中的常見最佳化手段。
模型處理 prompt 時,會為 token 序列產生 Key 與 Value。後續請求若具有相同或相近的前綴,推理系統便可重複使用已計算的 KV,減少重複運算,並降低延遲與推理成本。
問題出在系統如何判定「相同或相近」。
簡化後的快取鍵可能採用以下方式產生:
import hashlib
import json
def cache_key(model: str, tenant_id: str, prompt: str) -> str:
payload = json.dumps(
{
"model": model,
"tenant_id": tenant_id,
"prompt": prompt,
},
sort_keys=True,
)
return hashlib.sha256(payload.encode("utf-8")).hexdigest()
這段程式碼本身沒有問題,因為它明確將 tenant_id 納入快取鍵。
真正的風險通常藏在快取鍵之外:
- 路由層先依模型、前綴或硬體位置重複使用 KV,之後未再檢查租戶識別碼。
- 快取儲存層雖依租戶分區,查找時卻只使用 prompt hash。
- 請求經過重試、遷移或預熱後,原本的作用域資訊因而遺失。
- 快取項目過期時間過長,租戶或工作階段已切換,舊項目卻仍可被讀取。
- 並行請求共用同一批 KV block,其中部分 block 來自另一個工作階段。
在多租戶模型服務中,快取重用包含三層決策:
- 哪些請求可以共用前綴。
- 快取項目儲存在哪個分區。
- 命中結果是否仍屬於目前的租戶與工作階段。
只處理第一層,並不代表隔離已經完成。
傳統 Web 快取的邊界通常較為明確:URL、查詢參數、Cookie 與 Vary header 共同決定回應歸屬。模型 KV 則更複雜,因為快取的是推理狀態,而非一則完整的 HTTP 回應。其重用條件取決於 token 前綴、排程位置、模型版本與執行裝置。
一旦作用域沒有隨 KV 一起傳遞,隔離便會在系統內部失效。
155 筆回應比單次異常更值得深入調查
排查這類問題,不能只問「是否有使用者看到錯誤內容」,還要確認觸發條件與可否驗證。
至少應涵蓋四類檢查:
- 同一租戶、同一工作階段的連續請求是否出現非預期內容。
- 不同租戶使用相同或相近 prompt 時,是否可能命中同一批 KV。
- 請求重試、區域切換與執行個體遷移後,快取作用域是否維持不變。
- 模型版本、快取格式或部署設定變更後,舊項目是否仍被重複使用。
155 筆回應不等於 155 位使用者。這些回應可能來自少數工作階段,也可能橫跨多個帳號。在取得去重後的請求數、租戶數與工作階段數之前,無法準確計算影響半徑。
同樣地,「已經修復」也不等於「影響已經查清」。
較為完整的揭露應提供:受影響的時間區間、快取命中條件、租戶層級的影響數量、處置方式,以及能否證明不存在未被觀測到的污染。如果 155 是系統稽核得到的數字,就應說明統計口徑;若僅來自主動掃描或抽樣結果,也應明確標示。
目前公開摘要指出有 155 筆回應受到影響,但完整觸發路徑與更細緻的影響範圍,仍需搭配 Cloudflare 後續說明核對。
修復不能只靠清空快取
清空快取通常是必要動作,但並不足夠。
KV cache 是有狀態資料。即使刪除現有項目,若路由、鍵生成、失效策略與重試邏輯未修正,同類問題仍會再次發生。
Cloudflare 的修復說明涉及快取重用邊界與暴露後的處置措施。在工程實作上,至少需要驗證四個層面。
第一層是快取鍵。租戶、工作階段、模型版本等隔離維度,不能依賴呼叫端自覺傳入。
第二層是儲存與讀取。快取分區、查詢條件與項目 metadata 必須採用同一套作用域規則。
第三層是生命週期。過期、驅逐、遷移與 rollback 必須同步清理或遷移狀態,不能留下可跨作用域讀取的舊項目。
第四層是日誌與稽核。日誌需記錄快取項目識別碼、作用域、命中結果與項目來源,但不得將敏感 prompt 或完整 KV 寫入日誌。
回歸測試也不能只檢查「答案是否正確」。可以建立兩個 prompt 相同、租戶不同的請求,檢查回應是否混入另一租戶的獨有內容:
from collections.abc import Callable
def assert_no_cross_tenant_leak(
invoke: Callable[[str, str], str],
first_tenant: str,
second_tenant: str,
marker: str,
) -> None:
first = invoke(first_tenant, "The deployment region is us-east-1.")
second = invoke(second_tenant, "The deployment region is us-east-1.")
assert marker not in first
assert marker not in second
這裡刻意讓兩個請求使用相同 prompt。測試目的在於驗證基礎設施的作用域,而不是利用 prompt 差異把問題「藏起來」。
實際測試還應涵蓋並行、 重試與執行個體切換。若只依序執行兩次,很容易漏掉排程競爭。
對 Workers AI 使用者的實際影響
使用 GLM-5.3 的團隊,不應預設模型服務天然具備租戶隔離。
先檢查輸入。
若請求包含客戶資料、程式碼、內部工單、密鑰片段或個人資訊,應確認這些內容是否可能被寫入共享快取,以及日誌與快取的保留時間長度。
接著檢查上下文。
不要假設上一輪對話的狀態不會進入目前回應。對 Agent 或長時間工作階段的應用尤其如此:使用者識別碼、session ID 與業務租戶 ID,應在每次請求中明確傳遞。
同時核對回應歸屬。
當模型回傳來源識別碼、系統附加資訊或工作階段摘要時,應以程式將其與請求上下文比對。人工抽查只能協助發現問題,不能證明問題不存在。
最後檢查快取失效策略。
權限變更、使用者刪除、工作階段結束、模型升級與區域遷移,都應觸發對應範圍的失效作業,不應等待自然過期。
這裡還有一個容易混淆的觀念:傳統 Web 快取漏洞通常會洩露完整回應或部分內容;模型 context window 問題則涉及模型能否記住目前工作階段的內容。本次事件更接近共享推理狀態的作用域錯誤,既不是單純的 HTTP 快取權限設定問題,也不是模型「記性太好」。
後續設計的關鍵
這次事件的重要性,不在於 155 這個數字有多麼引人側目,而在於共享推理基礎設施將「效能重用」與「安全邊界」綁在了一起。KV cache 能降低延遲與成本,但一旦缺少租戶層級的約束,省下的運算便可能以跨請求洩露為代價。
更值得关注的是修復後的長期設計:快取鍵是否由服務端強制產生,租戶作用域是否涵蓋寫入、查找、遷移與失效的完整流程。預期後續的模型 API 會將快取隔離選項與保留策略做成明確設定,不再讓使用者預設共享。
這與過去的 Web 快取漏洞不同,因為洩露對象是推理狀態;也不同於 context window 過長造成的問題,因為後者通常發生在同一工作階段內。本次事件跨越了請求歸屬邊界。不過,目前公開資訊仍不足以還原完整觸發路徑,也缺少去重後的受影響租戶數。155 筆回應能證明問題確實存在,卻不能取代完整的影響評估。