Cloudflare가 Workers AI의 GLM-5.3 모델에서 서로 다른 요청의 KV cache가 노출됐다고 밝혔다. 총 155개 응답이 영향을 받았다. 이 모델을 사용하는 팀에 따르면 출력 오류에 그치지 않고, tenant 격리와 캐시 범위 문제에 해당한다.
GLM-5.3 캐시 노출로 155개 응답에 영향…공유 KV는 작은 문제가 아니다
Cloudflare는 Workers AI가 제공하는 GLM-5.3 모델에 요청 간 KV cache 노출 취약점이 있다고 밝혔다. 총 155개 응답이 관련됐다.
일반적인 모델 출력 편차와는 성격이 다르다. 캐시에 저장된 내용이 다른 요청에서 현재 응답으로 넘어올 가능성이 있다는 뜻이다. 즉, 서로 분리돼야 하는 상태가 사용자 간에 공유됐다.
해당 항목은 Hacker News 메인 페이지에 올라 96점과 30개의 댓글을 얻었다. 개발자들이뚜렷한 궁금증은 모델 서비스가 어떤 경계를 기준으로 캐시를 재사용하는가였다.
Cloudflare는 캐시 재사용 경계와 노출 이후의 대응 조치를 다루는 별도의 취약점 분석 및 복구 안내를 공개했다. 원문: https://blog.cloudflare.com/kv-cache-exposure-remediation/
문제는 한 번의 응답 혼선이 아니다
먼저 확인된 사실은 다음과 같다.
- Cloudflare는 GLM-5.3 Workers AI 모델에 요청 간 KV cache 노출이 있다고 밝혔다.
- 노출은 모델 서비스의 KV cache 메커니즘에서 발생했다.
- 서로 다른 요청이 분리돼야 하는 캐시 내용을 공유할 수 있었다.
- 공개된 영향 범위는 155개 응답이다.
- Hacker News 항목은 96점과 30개의 댓글을 받았다.
155라는 숫자는 ‘가끔 잘못된 응답 한 건이 나온 수준’보다 심각하다.
단발적인 오류는 스케줄링 흔들림, 요청 중단 또는 일시적인 상태 오염으로 발생할 수 있다. 여러 응답에 연속해서 영향을 미쳤다면 더 구체적인 질문에 답해야 한다. 어떤 요청들이 동일한 캐시 키를 적중하는가? 어느 계층에서 재사용이 발생하는가? 만료 로직이 서로 다른 tenant를 하나의 작업 공간으로 취급하지는 않는가?
사용자 입장에서 가장 위험한 것은 응답에 다른 사람의 문장이 섞이는 것만은 아니다. 캐시 내용에는 민감한 입력, 모델이 생성한 중간 상태 또는 여러 요청을 조합한 컨텍스트가 포함될 수 있다. 최종 출력만 보면 오염 범위를 판단하기 어렵다.
Cloudflare가 단순한 상태 업데이트가 아니라 별도의 취약점 안내를 공개한 이유도 여기에 있다. 팀은 영향을 받는 버전, 트리거 조건, 복구 조치와 사후 점검 방법을 알아야 한다.
KV cache가 요청 간에 노출된 이유
KV cache는 대규모 모델 추론에서 흔히 쓰이는 최적화 방식이다.
모델이 prompt를 처리할 때 token 시퀀스마다 Key와 Value를 생성한다. 이후 요청의 prefix가 같거나 비슷하면 추론 시스템은 이미 계산한 KV를 재사용해 중복 계산을 줄이고 latency와 추론 비용을 낮출 수 있다.
문제는 ‘같거나 비슷하다’를 어떻게 판단하는지에 있다.
단순화한 캐시 키는 다음과 같이 생성될 수 있다.
import hashlib
import json
def cache_key(model: str, tenant_id: str, prompt: str) -> str:
payload = json.dumps(
{
"model": model,
"tenant_id": tenant_id,
"prompt": prompt,
},
sort_keys=True,
)
return hashlib.sha256(payload.encode("utf-8")).hexdigest()
이 코드 자체에는 문제가 없다. tenant_id가 캐시 키에 명확히 포함돼 있다.
실제 위험은 대개 캐시 키 바깥에 숨어 있다.
- 라우팅 계층이 모델, prefix 또는 하드웨어 위치를 기준으로 먼저 KV를 재사용하고 tenant 식별자를 다시 확인하지 않았다.
- 캐시 저장소는 tenant별로 나뉘어 있어도 조회할 때는 prompt hash만 사용했다.
- 요청이 재시도, 마이그레이션 또는 워밍업되는 과정에서 원래의 범위 정보가 사라졌다.
- 캐시 항목의 만료가 너무 늦어 tenant나 세션이 바뀌었는데도 항목을 읽을 수 있었다.
- 동시 요청들이 같은 KV block을 공유했지만 일부 block은 다른 세션에서왔다.
다중 tenant 모델 서비스에서 캐시 재사용은 세 단계의 판단으로 이루어질 수 있다.
- 어떤 요청끼리 prefix를 공유할 수 있는가.
- 캐시 항목이 어느 파티션에 저장되는가.
- 적중한 결과가 여전히 현재 tenant와 세션에 속하는가.
첫 번째 단계만 처리했다고 해서 격리가 완료된 것은 아니다.
기존 Web cache의 경계는 보통 명확하다. URL, query parameter, Cookie와 Vary header가 함께 응답의归属을 결정한다. 모델 KV는 더 복잡하다. 완전한 HTTP 응답이 아니라 추론 상태를 캐시하기 때문이다. 재사용 조건은 token prefix, 스케줄링 위치, 모델 버전과 실행 장비에 따라 달라진다.
KV와 함께 범위 정보가 전달되지 않으면 시스템 내부에서 격리가 무너진다.
155개 응답은 단발적 이상보다 면밀히 조사할 대상
이런 문제를排查할 때는 ‘사용자가 잘못된 내용을 봤는가’만 확인해서는 안 된다. 트리거 조건과 검증 가능성도 함께 살펴야 한다.
최소한 네 가지 영역을 점검해야 한다.
- 동일한 tenant와 세션에서 연속으로 들어온 요청에 의도하지 않은 내용이 나타났는가.
- 서로 다른 tenant가 같거나 비슷한 prompt를 사용했을 때 같은 KV 묶음을 적중할 수 있었는가.
- 요청 재시도, 리전 전환과 인스턴스 마이그레이션 이후에도 캐시 범위가 유지됐는가.
- 모델 버전, 캐시 형식 또는 배포 설정이 바뀐 뒤에도 기존 항목이 재사용됐는가.
155개 응답은 155명의 사용자를 의미하지 않는다. 소수의 세션에서 발생할 수도 있고 여러 계정에 걸쳐 나타났을 수도 있다. 중복을 제거한 요청 수, tenant 수와 세션 수를 구하지 않으면 정확한 영향 반경을 계산할 수 없다.
마찬가지로 ‘수정 완료’만으로 ‘영향 범위를 모두 파악했다’고 볼 수는 없다.
신중한 공개 정보에는 영향이 발생한 시간 구간, 캐시 적중 조건, tenant별 영향 수, 대응 방법과 관측되지 않은 오염이 없다는 점을 입증할 수 있는지가 포함돼야 한다. 155가 시스템 감사에서 나온 수치라면 통계 기준을 밝혀야 한다. 능동적인 스캔이나 표본 조사 결과라면 그 성격도 명시해야 한다.
현재 공개된 요약에는 155개 응답이라는 수치가 제시돼 있지만, 전체 트리거 경로와 세부 영향 범위는 Cloudflare의 후속 설명과 대조해 확인해야 한다.
수정은 캐시 삭제만으로 끝나지 않는다
캐시 삭제는 대개 필요한 조치지만 충분하지 않다.
KV cache는 상태를 가진 데이터다. 현재 항목을 삭제하더라도 라우팅, 키 생성, 만료 정책과 재시도 로직을 고치지 않으면 같은 문제가 다시 발생할 수 있다.
Cloudflare의 복구 안내는 캐시 재사용 경계와 노출 이후의 대응 조치를 다룬다. 엔지니어링 관점에서는 최소 네 계층을 검증해야 한다.
첫 번째는 캐시 키다. tenant, 세션, 모델 버전과 같은 격리 차원이 호출자가 성실하게 전달한다는 가정에 의존해서는 안 된다.
두 번째는 저장과 조회다. 캐시 파티션, 조회 조건과 항목 metadata는 동일한 범위 규칙을 사용해야 한다.
세 번째는 lifecycle이다. 만료, eviction, 마이그레이션과 rollback은 상태를 함께 정리하거나 이동해야 하며, 다른 범위에서 읽을 수 있는 오래된 항목을 남겨서는 안 된다.
네 번째는 로그와 감사다. 로그에는 캐시 항목 식별자, 범위, 적중 결과와 항목 출처를 기록하되 민감한 prompt나 전체 KV를 기록해서는 안 된다.
회귀 테스트도 ‘정답이 정확한가’만 검사해서는 안 된다. 동일한 prompt와 서로 다른 tenant를 가진 두 요청을 구성해 한 tenant에만 있는 내용이 응답에 나타나는지 확인할 수 있다.
from collections.abc import Callable
def assert_no_cross_tenant_leak(
invoke: Callable[[str, str], str],
first_tenant: str,
second_tenant: str,
marker: str,
) -> None:
first = invoke(first_tenant, "The deployment region is us-east-1.")
second = invoke(second_tenant, "The deployment region is us-east-1.")
assert marker not in first
assert marker not in second
여기서는 의도적으로 두 요청에 같은 prompt를 사용한다. 테스트 목적은 prompt 차이로 문제를 ‘숨기는’ 것이 아니라 인프라 범위 자체를 검증하는 데 있다.
실제 테스트에는 동시 처리, 재시도와 인스턴스 전환도 포함해야 한다. 직렬로 두 번만 실행하면 스케줄링 경쟁 조건을 놓치기 쉽다.
Workers AI 사용자에게 미치는 현실적 영향
GLM-5.3을 사용하는 팀은 모델 서비스가 기본적으로 격리돼 있다고 가정해서는 안 된다.
먼저 입력을 점검한다.
요청에 고객 자료, 코드, 내부 티켓, 키 일부 또는 개인정보가 포함된다면 공유 캐시에 기록될 가능성이 있는지, 로그와 캐시 보존 시간이 얼마나 되는지 확인해야 한다.
다음으로 컨텍스트를 점검한다.
이전 대화의 상태가 현재 응답에 들어오지 않는다고 가정해서는 안 된다. Agent나 장시간 이어지는 세션 앱에 특히 중요하다. 사용자 식별자, session ID와 업무 tenant ID는 모든 요청에서 명시적으로 전달해야 한다.
동시에 응답의 소속도 확인한다.
모델이 출처 식별자, 시스템 부가 정보나 세션 요약을 반환한다면 요청 컨텍스트와 프로그램으로 비교해야 한다. 수동 점검은 문제를 발견할 수 있지만 문제가 없다는 것을 증명하지는 못한다.
마지막으로 캐시 만료 정책을 점검한다.
권한 변경, 사용자 삭제, 세션 종료, 모델 업그레이드와 리전 마이그레이션은 각각 해당 범위의 만료를 트리거해야 한다. 자연 만료를 기다려서는 안 된다.
혼동하기 쉬운 점도 있다. 기존 Web cache 취약점은 보통 완전한 응답이나 일부 내용을 노출한다. 모델 context window 문제는 모델이 현재 세션 내용을 기억할 수 있는지와 관련된다. 이번 incidents은 공유 추론 상태의 범위 설정 오류에 더 가깝다. 단순한 HTTP cache 권한 설정 오류도 아니고 모델의 ‘기억력이 지나치게 좋은’ 문제도 아니다.
편집자 관점
이번 사건의 중요점은 155라는 숫자가 얼마나 충격적인지가 아니다. 공유 추론 인프라가 성능을 위한 재사용과 보안 경계를 하나로 묶어 버렸다는 데 있다. KV cache는 latency와 비용을 낮출 수 있지만, tenant 수준 제약이 빠지면 절약한 계산 비용이 요청 간 데이터 노출이라는 대가로 돌아올 수 있다.
더 주목할 부분은 복구 이후의 장기적인 설계다. 캐시 키를 서버에서 강제로 생성하는지, tenant 범위가 쓰기, 조회, 마이그레이션과 만료 전 과정에 적용되는지가 핵심이다. 향후 모델 API에서는 캐시 격리 옵션과 보존 정책이 명확한 설정으로 제공되고, 기본값을 공유로 두는 방식은 줄어들 것으로 본다.
과거의 Web cache 취약점과 달리 이번에 노출된 것은 추론 상태였다. context window가 너무 긴 문제도 아니다. 후자는 보통 같은 세션 안에서 발생한다. 이번 사례는 요청의 소속 경계를 넘어섰다. 다만 현재 공개 정보만으로 전체 트리거 경로를 재현할 수 없고, 중복을 제거한 영향 tenant 수도 확인되지 않았다. 155개 응답은 문제가 존재했다는 사실을 입증할 뿐, 완전한 영향 평가를 대신할 수는 없다.