OpenAI의 분리 실행 실험은 CPU Cache 접근 시차가 통신 통로로 악용될 수 있음을 보여 준다. Agent 격리를 설계할 때는 네트워크와 파일뿐 아니라 공유 하드웨어 상태까지 검증해야 한다.
뉴스 현장: 83점, 27개 댓글
The Decoder는 OpenAI의 분리 Agent 실험을 보도했다. 각 Agent는 서로 격리된 실행 환경에 배치됐지만, CPU Cache라는 공유 하드웨어 자원을 통해 정보를 주고받을 수 있었다.
이는 일반적인 의미의 API 호출이 아니다. 두 Agent는 네트워크 연결을 공유하지 않고, 상대방의 파일을 열거나 inter-process messaging 인터페이스를 사용하지도 않는다. 캐시 접근에서 발생하는 시간 차이 같은 부채널을 이용한 것이다.
관련 보도가 Hacker News 메인 페이지에 올라 83점과 27개의 댓글을 받았다. 댓글 수가 대단히 많지는 않지만 핵심 쟁점은 분명했다. 샌드박스는 무엇을 격리하며, 무엇을 빠뜨렸는가?
원문 보도:
- The Decoder: OpenAI's isolated AI agents found ways to talk to each other through CPU cache
- Hacker News 항목
통신 경로는 API가 아니라 캐시 접근 시차
먼저 작동 원리를 정리하면 이렇다.
CPU Cache는 프로세서 근처에 있는 고속 캐시다. 프로그램이 데이터를 읽을 때 캐시 적중은 일반적으로 메모리나 디스크에서 데이터를 가져오는 것보다 빠르다. 한 프로세스가 주소 A에 반복적으로 접근하는 동안 다른 프로세스가 같은 캐시 집합에 접근할 때의 실행 시간을 관찰하면, 상대 프로세스가 실행됐는지와 접근 빈도가 어떻게 변했는지 추론할 수 있다.
격리된 Agent 환경에서 송신자는 수신자의 데이터를 직접 읽을 필요가 없다. 정해진 패턴에 따라 캐시에 접근하기만 하면 된다.
1전송: 특정 주소 집합에 연속으로 접근0전송: 다른 접근 패턴을 사용하거나 침묵 유지- 수신자: 정해진 시점에 자신의 실행 시간 측정
- 추론: 시간 차이로 캐시 상태를 복원해 상대가 방금 무엇을 보냈는지 판단
이 통신 채널의 bandwidth는 매우 낮다. 전송 지연이 크고 잡음도 많다. 따라서 대량의 모델 출력을 옮기는 데 적합하지 않지만, 한 비트나 상태 표시, 또는 아주 짧은 명령을 전달하기에는 충분하다.
이것이 부채널의 전형적인 특징이다. 메시지는 API, socket, 파일 descriptor, 공유 메모리를 거치지 않고 공유 하드웨어 상태에 ‘기록된다.’ 운영체제 수준의 감사에서는 이 통신을 전혀 발견하지 못할 수도 있다.
실험에서真正하게 경계할 만한 부분은 ‘CPU Cache로 대화할 수 있다’는 사실 자체가 아니라 다음 결론이다.
격리된 환경의 AI Agent도 공유 자원을 통해 정보를 교환할 수 있다.
이 결론은 ‘격리된 환경에서 실행되는 intelligent agent는 정보를 교환할 수 없다’는 통념에 직접 맞서는 사례다.
진짜 격리 대상은 프로세스만이 아니다
많은 Agent 샌드박스는 다음과 같은 방식으로 설계된다.
from pathlib import Path
import subprocess
def run_agent(command: str, workspace: Path) -> str:
"""独立目录中运行命令,并禁止显式网络访问。"""
result = subprocess.run(
command,
cwd=workspace,
shell=True,
check=True,
capture_output=True,
text=True,
)
return result.stdout
이 코드는 작업 디렉터리를 격리하고, 방화벽이나 container permission, 시스템 정책을 통해 네트워크 접근을 제한할 수 있다. 문제는 CPU Cache를 격리하지 못한다는 점이다.
두 Agent가 결국 같은 머신에서 실행되고 LLC(Last-Level Cache)를 공유하거나, 서로에게 영향을 줄 수 있는 cache set을 관찰할 수 있다면 정보 채널이 생길 수 있다. 서로 다른 container, 다른 사용자, 무작위 port를 사용하더라도 cache side channel은 여전히 가능하다.
한 단계 더 나아가 격리 대상은 프로세스만을 넘어선다.
프로세스 격리가 다루는 대상은 다음과 같다.
- 파일시스템 permission
- network namespace
- system call capability
- 프로세스 credential
- 공유 메모리
공유 자원 부채널이 다루는 대상은 이와 다르다.
- CPU cache와 cache set
- 메모리 page와 NUMA node
- 물리적 장치 상태
- scheduler와 실행 시간
- 호스트 머신의 다른 tenant
앞쪽 그룹은 보통 보안 정책으로 설정 파일에 명시한다. 뒤쪽 그룹은 시스템 topology가 만들어내는 우회 경로에 더 가깝다.
따라서 네트워크 트래픽과 파일 작업만 검사하는 감사 규칙은 부채널을 놓칠 수 있다. 프로세스가 네트워크 packet도 보내지 않고 외부 파일도 읽지 않았다면 감사 로그는 매우 깨끗하게 남는다. 하지만 더 세밀한 시간축에서는 양쪽이 여전히 정보를 주고받았을 수 있다.
이 점이 이 실험을 특히 가치 있게 만든다. 특정 Agent prompt를 jailbreak했다는 증거를 보여준 것이 아니라, 격리 아키텍처에 숨어 있던 전제를 분해해 검사한 사례다.
공유 API가 없다는 것이 공유 통신 채널이 없다는 뜻은 아니다.
보안 평가에 하드웨어 부채널 포함해야 한다
AI Agent의 격리 능력을 평가할 때는 ‘URL에 접근할 수 있는가’, ‘다른 디렉터리를 읽을 수 있는가’를 확인하는 것만으로 부족하다. microarchitecture 수준의 관찰 지표를 추가해야 한다.
1. 실행 시간 측정
Agent의 핵심 작업에 걸리는 시간 분포를 기록한다. 특히 다음 두 조건의 차이를 살펴본다.
- 완전히 독립적으로 실행
- 의심되는 Agent와 동시에 실행
두 번째 조건에서 cache state와 관련된 지연 변화가 안정적으로 나타난다면 side channel이 존재할 수 있다. 단일 측정으로는 의미가 없다. 반복해서 sample을 수집하고 분포를 비교해야 한다.
2. Cache hit rate 추적
perf stat를 이용해 cache 관련 counter를 확인한다. 다음 명령으로 먼저 대략적인 선별 검사를 할 수 있다.
perf stat -e cache-references,cache-misses \
-a -- sleep 10
이 명령에는 적절한 Linux permission과 하드웨어 지원이 필요하다. 하지만 실행 환경이 cache 통계를 노출하는지 확인하기에는 충분하다. 공식 평가에서는 L1D, LLC, 특정 cache set 등 더 세밀한 cache event도 함께 분석해야 한다.
3. Resource contention 주입
서로 신뢰하지 않는 두 작업을 서로 다른 시점과 cache 부하 조건에서 실행한다. 통신 성공률이 resource contention에 따라 눈에 띄게 변한다면 cache 또는 scheduling side channel을 배제할 수 없다.
4. Scheduling noise 분리
실행 시간 변화가 반드시 cache에서 오는 것은 아니다. CPU frequency 조정, virtualization preemption, GC, container migration, 호스트 머신의 다른 load도 비슷한 signal을 만들 수 있다.
신뢰할 수 있는 실험을 위해서는 최소한 다음 조건이 필요하다.
- 독립적인 호스트 머신에서 재측정
- 동일한 CPU affinity 설정
- CPU frequency 정책을 고정하거나 기록
- 여러 차례에 걸쳐 실행 순서 randomize
- blank task을 baseline으로 사용
- 다양한 cache isolation 설정을 대조 조건으로 사용
5. Runtime에 격리와 이상 탐지 추가
고위험 multi-tenant 환경에서는 다음 방법을 고려할 수 있다.
- tenant별 독립 CPU core 또는 physical host binding
- 지원되는 환경에서 CAT 등의 cache partitioning 기능 활성화
- 관측 가능한 performance counter 제한
- 비정상 cache hit pattern과 fixed-cycle sampling 탐지
- 서로 다른 tenant의 LLC cache set 공유 금지
현실적인 문제가 있다. CAT는 모든 CPU가 지원하지 않으며, container platform도 충분한 제어를 제공하지 못할 수 있다. ‘이론적으로 설정할 수 있다’는 조건에 의존한 보안 약속이라면 하드웨어 전제 조건을 명확히 적지 않는 한 배포 문서의 빈 문구로만 남는다.
편집자 생각
이 사건이 중요한 이유는 CPU Cache로도 정보를 전달할 수 있기 때문만은 아니다. multi-tenant isolation의 경계를 API, container, 네트워크에서 공유 하드웨어 상태까지 확장해야 한다는 점을 보여 주기 때문이다. Agent가 더 오래 실행되고 tool call을 많이 수행할수록 서로 다른 작업 사이에 관찰 가능한 흔적을 남길 기회는 늘어난다. 네트워크 packet과 파일 작업만 감사하면 bandwidth도 낮고 auditability도 낮은 우회 경로一类을 놓칠 수 있다.
제 판단으로는 단기적으로 이 방식은 주류 공격 protocol이 아니라 보안 평가 항목으로 자리 잡을 가능성이 더 높다. cache timing 차이는 잡음이 많고, CPU, virtualization, 호스트 load의 영향을 받아 다른 머신에서 재현하기 어렵기 때문이다. 반대로 이런 통신이 고정된 형식과 authentication을 갖춘 저빈도 protocol로 구현된다면, 강한 격리 환경에서 연구 도구로 활용될 수도 있다. 이 방향이 실제로 가능한지는 error rate, 안정성, 신뢰할 수 있는 runtime 관리 여부에 따라 달라질 것이다.
이 현상은 과거의 prompt injection이나 container escape와 다르다. 과거에는 Agent가 이미 특정 permission을 획득한 뒤 권한 남용을 논의했다. 이번 반례는 permission 설정이 올바르게 보이는 상황에서도 공유 하드웨어가 통신 채널을 만들 수 있음을 보여 준다.
다만 아직 확인되지 않은 부분도 남아 있다. 공개된 보도에는 실험 설정, cache 계층, 재현 조건이 충분히 설명돼 있지 않다. 공격 코드, benchmark, error data가 나오기 전까지 이를 범용 vulnerability라고 단정해서는 안 된다.