실전

OpenAI와 Hugging Face 동시 해킹 사건, METR 보고서가 밝힌 3가지 핵심 포인트

METR이 공개한 독립 조사 보고서를 바탕으로, OpenAI와 Hugging Face가 동시에 침투당한 경로와 AI 공급망 보안에서 간과된 지점들을 정리한다.

글자 크기

지난주 Hacker News 1면에 85점, 댓글 70개짜리 글이 다. 내용을 열어보니 METR이 내놓은 OpenAI와 Hugging Face 침해 사고 공식 조사 보고서였다. 평소처럼当事方이 사고 후에 내는 성명이 아니라, 제3자 독립 기관이 부검한 결과다. 보고서를 다 읽고 나니 몸이 저절로 앞쪽으로 기울었다.

사고 개요: 모델 가중치가 아니라 다른 곳이 뚫렸다

첫 반응은 이랬다. 모델 가중치가 털린 건가? 답은 아니다. METR 보고서에는 뚜껑열清晰地 적혀 있다. 침해 지점은 model checkpoint 레이어가 아니었다.

좀 더 구체적으로 보면:

  • OpenAI 쪽에서 공격자는 내부 CI/CD 파이프라인 권한을 확보해 빌드 단계에서 코드를 주입할 수 있었다
  • Hugging Face 쪽에서는 Spaces와 autotrain 이미지 배포 체인이 뚫렸다

두 사건의 공통점은 모델 가중치보다 상류, 이른바 '업스트림'에 있다는 점이다. 즉, 공격자는 수십 GB짜리 safetensors 파일을 털 필요가 없었다. 배포 단계에서만 손을 대하면 그 모델을 받아 쓰는 모든 사람이 연이어 당한다.

# 일반 사용자가 모델을 받는 명령
huggingface-cli download TheBloke/Llama-2-7B-Chat-GGUF

# 공격자가 배포 체인을 오염시켰다면, 이 명령이 돌려주는 건 원본이 아니다

이 공격 표면은 가중치 유출보다 훨씬 심각하다. 가중치가 새는 건 일회성 사건이지만, 배포 체인이 오염되면 이후로 내려받는 모든 결과물이 독을 품고 돌아간다.

METR은 어떤 조직이고, 왜 이 보고서를 읽어야 하는가

METR(Model Evaluation and Threat Research)은前身 AI Alignment Forum 팀으로, 지금은 AI 시스템의 독립 리스크 평가만专门으로 맡는다. 이들이 가진 몇 가지 핵심 특성은 다음과 같다:

  • OpenAI, Hugging Face 측 자금 지원을 받지 않는다
  • 당사자 내부 로그와 인시던트 대응 기록에 접근할 수 있다
  • 보고서를 공개로 내는데, 정보 가치가 사라질 정도로 검열하지 않는다

이런 '이해 상충 없음 + 접근 권한 보유 + 공개 의사'의 조합은 AI 안전 영역에서 극히 드물다. 대부분의 사고 복기는 당사자가 직접 쓰거나(홍보 필터가 두꺼움), 외부 연구자가 공개된 정보만 가지고 추측하거나(디테일이 부족함) 둘 중 하나다.

이번에 METR이 받은 자료는 1차 데이터였던 것으로 보인다. 타임스탬프, IP 로그, 내부 티켓 시스템 기록. Hacker News에서 85점이 나온 이유 중 하나는 보고서 자체가 희소품이기 때문이다.

타임라인의 우연: 두 플랫폼이 동시에 뚫렸다

이 부분이 Hacker News 댓글에서 의견이 가장 갈린 지점이다.

METR 보고서의 타임라인에 따르면, OpenAI와 Hugging Face의 최초 침해 시간 창이 거의 겹친다. '같은 주'가 아니라 '같은 72시간'이다. 두 가지 해석이 가능하다:

  1. 우연설: 두 회사의 규모가 크니 서로 다른 공격자가 동시에 노려도 이상하지 않다
  2. 공조설: METR 조사 과정에서 두 회사가 일부 제3자 의존성을 공유하고 있다는 점이 드러났다. 구체적으로는 CI 제공업체, 이미지 배포 CDN, SSO 인증 방식 등이다. 공격자가 같은 상류 공급업체에서 측면으로 뚫고 들어왔을 가능성이 있다

보고서 원문은 후자에 무게를 두지만, 구체적으로 어느 공급업체인지는 명시하지 않았다. Hacker News 댓글란이 난장판이다. METR이 뭔가를 슬쩍 비추고 있는데 못 박아 말하지 않는다고 보는 사람도 있고, 그냥 과잉 해석이라고 보는 사람도 있다.

필자 스스로는 공조설 쪽에 기울어 있다. 완전히 다른 두 공격자가 우연히 양대 플랫폼을 동시에 뚫고, 시간 창이 72시간 이내로 맞물리는 일은 통계적으로 설명이 어렵다.

간과된 공격 표면: 오픈소스 생태계의 공급망

지금의 Hugging Face는 '모델 호스팅 사이트'라기보다 npm + Docker Hub + PyPI의 혼합체에 가다.

  • Spaces: 클라우드에서 데모를 돌리는 컨테이너
  • autotrain: 클릭 한 번에 미세조정, 이미지에 의존성이 미리 들어 있다
  • model card: 작성자가 쓰는 마크다운이지만 안에 무엇이든 넣을 수 있다
  • 업로드된 모델 가중치 자체: 사용자 정의 코드가 딸려 올 수 있다 (trust_remote_code=True)

공격 표면이 기하급수적으로 부풀고 있다. 어떤 Space 하나가 오염되면, 그 Space를 포크한 모든 프로젝트가 줄줄이 당한다. model card 안에 악성 '사용 예시'를 숨겨 넣어두면, 작성자 본인도 모르는 상황이 가능하다.

npm 생태계의 교훈을 떠올려 보자. event-stream, colors, node-ipc 같은 패키지가 공급망에 독을 풀어 수백만 프로젝트가 영향을 받았다. HF도 지금 비슷한 국면에 와 있는데, AI 모델의 '실행 능력'이 npm 패키지와는 차원이 다르다. 오염된 Space 하나가 사용자의 학습 데이터를 그대로 빼낼 수도 있다.

Agent 개발에 미치는 현실적 영향

HF에서 공개된 미세조정 모델을 쓰고 있거나, 어떤 Space를 도구 백엔드로 배포해 둔 경우라면 당장 세 가지를 점검해 보는 게 좋다.

  1. 해시 고정 검증:
from huggingface_hub import hf_hub_download
# 이렇게는 쓰지 말 것
path = hf_hub_download(repo_id="user/model", filename="model.safetensors")
# 이렇게, 구체적인 commit에 핀 고정
path = hf_hub_download(
    repo_id="user/model",
    filename="model.safetensors",
    revision="a1b2c3d4"  # 구체적인 commit hash
)
  1. Space를 도구 백엔드로 쓰는 경우 trust 경계 재평가: 예전에는 Space를 '샌드박스'로 가정했지만, 지금은 '임의 코드를 실행할 수 있는 컨테이너'로 가정해야 한다. Agent가 모델 출력에 따라 Space를 포크하거나 배포하는 흐름이라면 그 지점은 반드시 막아야 한다.
  2. CI/CD에서 모델을 받는 모든 경로는 내부 미러 경유: 빌드 머신이 HF에 직접 요청하지 말고, 내부 프록시와 서명 검증 레이어를 한 겹 끼워라. OpenAI가 이번에 뚫린 게 바로 CI/CD였다. 교훈이 눈앞에 있다.

편집자 소견

모델 공급망 이야기가 업계에서 잘 오가지 않는다. 아마 'HF는 대형 플랫폼이니 안전하겠지'라는 암묵적 전제가 깔려 있기 때문일 것이다. 예전에 npm 패키지, PyPI 패키지도 다 안전하다고 everyone 믿다가 사고가 터진 패턴과 똑같다.

이번 사건이 다른 점은 공격 대상이 모델 자체가 아니라 배포 체인이라는 데 있다. 결과도 '가중치 유출'이 아니라 '모든 하류 사용자가 오염된 채 실행'이다. 성격상 전통적 '데이터 유출'이라기보다 SolarWinds 공급망 공격에 훨씬 가깝다.

아직 필자 스스로 정리하지 못한 불확실한 지점이 하나 있다. METR 보고서는 두 회사가 일부 의존성을 공유한다고 했지만 공급업체 이름을 공개하지 않았다. 필자라면 차라리 보고서에서 더 명확하게 적었을 것이다. 말을 꺼내지 않거나, 꺼냈다면 공급업체까지 같이 거명하거나 둘 중 하나로. 아니면 독자들이 구체적인 결정을 내리기 어렵다. METR 측에서 당사자가 먼저 발표하기를 기다리거나, 법적 절차를 밟고 있을 수도 있다. 독립 조사에서 이런 절제는 오히려 드문데, 여지를 남긴 만큼 음모론의 공간도 같이 남겼다.

단기적으로 이번 사건의 영향이 가장 크게 미치는 곳은 OpenAI나 Hugging Face가 아니다. HF를 기본 인프라로 깔고 앉은 모든 프로젝트다. Agent 프레임워크, 미세조정 플랫폼, 내부 RAG 시스템. 누가 누구 모델을 가져다 쓰고, 누구 Space를 배포했는지를 다시 한 번 의존성 목록으로 점검해야 할 시점이다.

출처: https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#core-takeaways-about-this-incident