実践

GLM-5.3で155件の応答が漏出、共有KV cacheの分離設計に警鐘

CloudflareのWorkers AIで、GLM-5.3のKV cacheが別リクエスト間で共有され、155件の応答受到影响した。キャッシュの分離境界、調査方法、修正・確認項目を解説します。

文字サイズ

CloudflareはWorkers AIのGLM-5.3で、リクエストをまたいでKV cacheが露出する問題を公表した。影響を受けた応答は155件に及ぶ。このモデルを利用するチームにとって、単純な出力異常にとどまらず、テナント分離とキャッシュスコープの問題でもある。

GLM-5.3で155件の応答が漏出、共有KV cacheの分離設計に警鐘

Cloudflareは、Workers AIで提供されているGLM-5.3モデルに、リクエストをまたぐKV cacheの露出問題が発生したと公表した。対象となった応答は155件だ。

これは単なるモデル出力のずれではない。キャッシュに格納された内容が別のリクエストから現在の応答へ混入し、本来は分離すべきユーザー間で状態が共有されたことを意味する。

当該項目はHacker Newsのフロントページに登場し、96ポイントと30件のコメントを集めた。開発者がasketているのは明確で、モデルサービスはどのような境界でキャッシュを再利用するのかという點だ。

Cloudflareはキャッシュ再利用の境界と、露出後の対処を網羅した専用の脆弱性分析および修正ガイダンスを公開した。元情報:https://blog.cloudflare.com/kv-cache-exposure-remediation/

一度きりの取り違えではない

まず事実を確認する。

  • Cloudflareは、GLM-5.3のWorkers AIモデルでリクエストをまたぐKV cacheの露出問題が発生したと公表した。
  • 問題はモデルサービスのKV cache機構で起きた。
  • 異なるリクエストが、本来は分離されるべきキャッシュ内容を共有した可能性がある。
  • 公表された影響範囲は155件の応答。
  • Hacker Newsの項目は96ポイントと30件のコメントを集めた。

155という数字は、「時々不正な応答が一件出る」という問題よりも深刻だ。

単発の異常は、スケジューリングの変動、リクエストの中断、一時的な状態の汚染などが原因かもしれない。しかし、複数の応答連続で影響を受けた場合には、より具体的な問いに答える必要がある。どのリクエストが同じキャッシュキーをヒットするのか。再利用はどのレイヤーで起きるのか。無効化の処理は、異なるテナントを同一のワークスペースとして扱っていないか。

ユーザーにとって最大のリスクは、別のユーザーの文章が応答に混ざることだけではない。キャッシュ内容には機密性の高い入力、モデル生成の中間状態、複数のリクエストを結合したコンテキストが含まれ得る。最終的な出力だけを見れば、汚染の範囲を判断するのは難しい。

だからこそCloudflareは、単なるステータス更新ではなく、脆弱性の説明資料を専 releasesした。チームは影響を受けるバージョン、発生条件、修正対応、その後の確認方法を把握する必要がある。

KV cacheがリクエスト間で露出する理由

KV cacheは、大規模言語モデルの推論で一般的な最適化手法だ。

モデルがpromptを処理するとき、token列に対してKeyとValueを生成する。後続のリクエストに同じ、または類似した接頭辞があれば、推論システムは計算済みのKVを再利用できる。これにより重複する計算を減らし、レイテンシと推論コストを下げられる。

問題は、「同じまたは類似」をどう判定するかにある。

簡略化したキャッシュキーは、次のように生成される場合がある。

import hashlib
import json

def cache_key(model: str, tenant_id: str, prompt: str) -> str:
    payload = json.dumps(
        {
            "model": model,
            "tenant_id": tenant_id,
            "prompt": prompt,
        },
        sort_keys=True,
    )
    return hashlib.sha256(payload.encode("utf-8")).hexdigest()

このコード自体に問題はなく、tenant_idを明示的にキャッシュキーに含めている。

実際のリスクはたいてい、キャッシュキーの外側にある。

  • ルーティング層が、モデル・接頭辞・ハードウェア位置を基にKVを再利用し、テナント識別子を確認していない。
  • キャッシュストレージ自体はテナントごとに分区されているが、検索時にはprompt hashだけを使う。
  • リクエストの再試行、移行、プリヒーティングの過程で、元のスコープ情報が失われる。
  • キャッシュエントリの有効期限が長すぎて、テナントやセッションが切り替わっても読み取れる状態が残る。
  • 同時リクエストが同じKV blockを共有し、その一部が別セッションに由来する。

マルチテナント型のモデルサービスでは、キャッシュ再利用は三層の判断から成る。

  1. どのリクエストが接頭辞を共有できるか。
  2. キャッシュエントリをどの分区に格納するか。
  3. ヒットした結果を、現在のテナントとセッションでも使用してよいか。

第一層だけを処理しても、分離は完了したことになる。

従来のWebキャッシュでは境界が比較的明確だ。URL、クエリパラメータ、Cookie、Varyヘッダーによって応答の所属が決まる。モデルKVはより複雑で、キャッシュ対象は完全なHTTP応答ではなく推論状態だからだ。再利用の条件はtokenの接頭辞、スケジュール位置、モデルバージョン、実行デバイスに左右される。

スコープがKVとともに伝播しなければ、分離はシステム内部で失効する。

155件は単発の異常より詳しく調べる価値がある

この種の問題を調査する際は、「不正な内容を閲覧したユーザーがいたか」だけでは足りない。発生条件と検証可能性を併せて確認しなければならない。

少なくとも四種類の検査が必要だ。

  • 同一テナント、同一セッションにおける連続リクエストで、意図しない内容が発生していないか。
  • 異なるテナントが同じ、または類似したpromptを使う場合、同じKVにヒットする可能性があるか。
  • リクエストの再試行、リージョン切り替え、インスタンス移行後も、キャッシュスコープが変わっていないか。
  • モデルバージョン、キャッシュ形式、デプロイ設定の変更後、古いエントリが再利用されていないか。

155件の応答は、155人のユーザーDoesn't necessarily mean 155のユーザーとは限らない。少数のセッションに集中,也可能して複数のアカウントにまたがる。重複を除いたリクエスト数、テナント数、セッション数がなければ、影響範囲を正確に計算することはできない。

同様に、「修正済み」は「影響範囲を完全に把握した」ことを意味しない。

ACTERPLYな開示には、影響期間、キャッシュヒット条件、テナント別の影響件数、対処方法、未検出の汚染が存在しないことを示す根拠が含まれるべきだ。155という数字がシステム監査で得られたものなら、その集計基準を説明する必要がある。自主的なスキャンやサンプリングの結果なら、その旨を明記しなければならない。

現在公開されている概要では155件の応答が示されているが、完全な発生経路とより詳しい影響範囲は、Cloudflareの後続資料と照合して確認する必要がある。

修正はキャッシュ消去だけでは足りない

キャッシュ消去は通常必要な対応だが、それだけでは不十分だ。

KV cacheは状態を持ったデータである。既存のエントリを削除しても、ルーティング、キー生成、無効化戦略、再試行の処理が修正されていなければ、同種の問題は再発する。

Cloudflareの修正資料は、キャッシュ再利用の境界と露出後の対処を扱っている。エンジニアリング上、少なくとも四つのレイヤーを検証する必要がある。

第一にキャッシュキーだ。テナント、セッション、モデルバージョンといった分離軸を、呼び出し元の自己申告だけに依存させてはならない。

第二にストレージと読み取りだ。キャッシュの分区、検索条件、エントリのメタデータは、同じスコープ規則で扱わなければならない。

第三にライフサイクルだ。期限切れ、追い出し、移行、ロールバックでは、状態を同期的に消去または移行し、別スコープから読み取れる古いエントリを残してはならない。

第四にログと監査だ。キャッシュエントリの識別子、スコープ、ヒット結果、エントリの出所を記録できる必要がある。ただし、機密性の高いpromptや完全なKVをログへ書き込んではいけない。

回帰テストも、「答えが正しいか」だけを調べることで十分ではない。同じpromptを使うがテナントが異なる二つのリクエストを構成し、応答に他テナント固有の内容が混ざっていないかを確認できる。

from collections.abc import Callable

def assert_no_cross_tenant_leak(
    invoke: Callable[[str, str], str],
    first_tenant: str,
    second_tenant: str,
    marker: str,
) -> None:
    first = invoke(first_tenant, "The deployment region is us-east-1.")
    second = invoke(second_tenant, "The deployment region is us-east-1.")

    assert marker not in first
    assert marker not in second

ここでは意図的に二つのリクエストへ同じpromptを渡している。テストの目的はインフラのスコープを検証することであり、promptの違いを使って問題を隠すことではない。

実際のテストでは同時実行、再試行、インスタンス切り替えもカバーする必要がある。二回だけ直列に実行すると、スケジューリングの競合を見逃しやすい。

Workers AI利用者への現実的な影響

GLM-5.3を利用するチームは、モデルサービスがデフォルトで分離されていると仮定すべきではない。

まず入力を確認する。

リクエストに顧客情報、コード、内部チケット、鍵の一部、個人情報が含まれる場合は、それらが共有キャッシュへ書き込まれる可能性と、ログ・キャッシュの保持期間を確認する必要がある。

次にコンテキストを確認する。

前のターンの会話状態が現在の応答へ入らないとは仮定しない。特にAgentや長いセッションを使うアプリケーションでは、ユーザー識別子、session ID、業務テナントIDをすべてのリクエストで明示的に渡す必要がある。

同時に、応答の所属も照合する。

モデルが出典識別子、システム追加情報、セッション概要などを返す場合は、リクエストコンテキストとプログラム上で比較する。手作業による抽查は問題の発見には役立っても、問題がないことを証明はしない。

最後にキャッシュの無効化戦略を確認する。

権限変更、ユーザー削除、セッション終了、モデルアップグレード、リージョン移行は、対応する範囲のキャッシュ無効化を起動すべきだ。自然な有効期限を待つべきではない。

ここには混同しやすい点がある。従来のWebキャッシュの脆弱性は通常、完全な応答或其一部が漏れる。モデルコンテキストウィンドウの問題は、モデルが現在のセッション内容を記憶できるかどうかに関わる。今回の事案は,更多に共有推論状態のスコープ設定ミスに近い。単なるHTTPキャッシュの権限制御でもなく、モデルの「記憶力が強すぎる」problemでもない。

設計上の論点

今回の事件の重要さは、155という数字の衝撃的な大きさではなく、共有推論インフラが「性能上の再利用」と「安全境界」を結び付けてしまったことにある。KV cacheはレイテンシとコストを減らせるが、テナント単位の制約が欠ければ、削減した計算コストの代わりにリクエストをまたぐ情報漏出 occurring可能性がある。

より注目すべきは、修正後の長期的な設計だ。キャッシュキーをサーバーが強制生成するのか、テナントスコープが書き込み、検索、移行、無効化の全過程を覆うのか。今回の予測として、今後のモデルAPIではキャッシュ分離オプションと保持戦略が明示的な設定として提供され、ユーザーがデフォルトで共有状態を使うことはなくなるだろう。

この問題は過去のWebキャッシュ脆弱性不同于、漏れた対象が推論状態である。コンテキストウィンドウが長すぎる場合通常是同一セッション内で起きるのに対し、今回はリクエストの所属境界を越えた。とはいえ、現時点の公開情報だけでは完全な発生経路を復元できず、重複を除いた影響テナント数も把握できない。155件の応答は問題の存在を証明できるが、完全な影響評価の代替にはならない。

参考資料

https://blog.cloudflare.com/kv-cache-exposure-remediation/

出典: https://blog.cloudflare.com/kv-cache-exposure-remediation/