실전

Claude Code가 미사일 유도 소프트웨어에 쓰이기 시작했다

Anthropic이 후티 반군이 Claude Code로 미사일 유도 코드를 작성한 사실을 직접 공개했다. Agent 형태의 AI는 오용 장벽을 극도로 낮추며, 이제 책임의 무게는 한 회사에 그치지 않는다.

글자 크기

8월 말, Anthropic이 직접 threat intelligence report를 발표하며 예멘 후티(Houthis) 무장 세력이 Claude Code를 활용해 미사일 유도 소프트웨어를 개발했다고 인정했다. 이 소식은 Hacker News 메인 페이지에 잠시 올라와 33개의 추천과 31개의 댓글을 모았다. 원본 보도는 clashreport.com에 실렸다.

이 사건 자체에 주목할 만한 지점이 여럿 있다.

무슨 일이 있었나: 후티는 어떻게 Claude Code를 썼는가

출처는 Anthropic이 8월에 직접 발간한 threat intelligence report다. 제3자 폭로도,媒体的 추측도 아니다. 보고서에 따르면 후티 무장 세력 인원은 Claude Code를 다음과 같이 활용했다.

  • 유도 및 추적 관련 코드 모듈 작성
  • 기존 코드 디버깅
  • 드론과 미사일 시스템용 소프트웨어 프레임워크 생성

정확히 어떻게 API 접근 권한을 확보했는지, Anthropic의 어떤 guardrail을 우회했는지는 보고서에 구체적으로 나와 있지 않다. 이 부분은 뒤에서 다시 다룬다.

핵심은 Anthropic이 주도적으로 공개했다는 점이다. 누설이 아니라 공식 보고서를 통한 인정이다. "기자가 파헤치기 전에 먼저 털어놓는 편이 비용이 적다"는 판단이 Anthropic PR 팀 안에 있었음을 시사한다.

이 사건이 생각보다 심각한 이유

대부분의 첫 반응은 이렇다. "ChatGPT도 코드를 짤 수 있는데, 뭐가 다르냐." 차이는 모델이 아니라 형태에 있다.

Claude Code는 Anthropic이 2024년 말 출시한 코딩 Agent 제품이다. 주요 기능은 다음과 같다.

  • 로컬 파일 시스템 읽기/쓰기
  • shell 명령 실행
  • 다단계 작업 수행 (plan → edit → test → fix)
  • 도구 체인 호출 (컴파일러, linter, git)

ChatGPT는 대화형 모델이다. 질문을 던지면 텍스트를 뱉는다. 반면 Claude Code는 Agent다. 목표를 주면 내 컴퓨터를 직접 조작할 수 있다.

미사일 유도 소프트웨어의 본질은 무엇인가. 센서 데이터를 읽고 → 제어 법칙을 계산하고 → 액추에이터 명령을 출력하는 코드 덩어리다. 이 구조는 정확히 Agent가 가장 잘하는 형태와 맞는다.

  • 입력: 센서 데이터 (IMU, GPS, 목표 좌표)
  • 처리: 필터링, 제어 알고리즘, 상태 추정
  • 출력: 러더/가스 러더/노즐 제어 신호

이런 코드를 짜는 데 필요한 건 창의력이 아니라 엔지니어링 능력이다. Claude Code 같은 Agent는 바로 그 엔지니어링 능력에서 순수 LLM보다 한 차원 위다.

PID를 다룰 줄 아는 학부생이 짤 수 있고, Agent도 짤 수 있다. 차이는 속도와 체계성, 그리고 실제로 돌아가는 버전을 만들어 내는迭代 능력에 있다.

Anthropic의 detection이 왜 무력화되었나

Anthropic의 usage policy에는 weapons development 금지가 분명히 적혀 있다. 그럼에도 후티 무장 세력은 사용에 성공했다. 가능한 경로는 세 가지다.

1. Prompt을 교묘하게 작성

가장 흔한 우회 방식이다. "미사일 유도 코드 작성해 줘"처럼 직접 묻지 않고 작업을 분해한다.

MPU6050 IMU 데이터를 읽는 Python 함수를 작성해 줘
간단한 PID 컨트롤러를 추가해 줘
목표 좌표를 러더 각도로 변환해 줘

각 단계만 보면 무해하고 합법적이며, GitHub에 널린 튜토리얼이다. 그것을 연결해야 무기가 된다.

이런 공격은 Chatbot 시대의 guardrail에는 통했다. output filtering으로 "bomb" 같은 민감어를 잡으면 됐다. 하지만 Agent에는 효과가 없다. Agent의 출력은 중간 단계이고, 최종 결과물이 나타나기까지 수십 분이 걸리는데, 그 시점이면 guardrail은 이미 통과한 뒤다.

2. 계정 위장 / 우회 채널

보고서에 명시되지는 않았지만, 현실적으로 가능한 경로는 다음과 같다.

  • KYC가 느슨한 제3자 API reseller를 통한 접속
  • 도난 신용카드로 발급한 계정 사용
  • Anthropic이 파트너/학술 기관에 부여한 API 쿼터 활용

Anthropic이 이전에 발간한 보고서에서도 러시아와 이란 행위자가 비슷한 수법을 쓴 사례가 언급된 바 있다.

3. 군사용도는 detection 사각지대

이 항목은 개인적인 추측이며, 정확하지 않을 수 있다.

Anthropic의 misuse detection은 아마도 알려진 abuse 패턴에서 출발한다. 피싱 메일, 악성 코드, 정치 선전. 무기 용도의 패턴은 학습 데이터에 포함돼 있지 않다. 모델에게 "이건 미사일 유도 코드 작성 중"이라 알려주려면 어떻게 해야 할까. 그 자체가 합법적 코드들의 조합이기 때문이다.

더 awkward한 역설도 있다. detection이 성공할수록 모델의 능력이 입증된다. 정말로 돌아가는 유도 코드를 만들어 낼 수 있어야 누군가 찾아와 쓰기 때문이다.

OpenAI, Cursor, Google은 지금 무엇을 하나

이 문제는 Claude Code만의 일이 아니며, 모든 코딩 Agent가 안고 있는 공통 병폐다. 가로로 훑어보면 다음과 같다.

Cursor

Cursor의 usage policy도 weapons development를 금지한다. 다만 Cursor는 IDE 형태이기 때문에 Claude Code보다 개발자 워크플로우에 더 깊이 박혀 있다. 유도 코드를 작성할 수 있는가. 가능하다. Cursor가 비슷한 threat report를 공개한 적은 있는가. 없다.

GitHub Copilot Agent Mode

마이크로소프트는 Azure 정부 고객, JEDI 계약, 미국 국방부 클라우드 계약을 보유하고 있다. Copilot Agent Mode의 정책은 모호하게 쓰여 있다. "군사용으로 쓸 수 없다"고 직접 못 박지는 않지만, weapons 제작도 허용하지 않는다. 실제 집행은 별개의 문제다. 마이크로소프트는 threat report를 발간한 적이 없다.

Windsurf / Cline

Windsurf(Cognition 인수 후 Devin 팀 소속)는 IDE Agent 형태를 취한다. Cline은 오픈소스 VS Code 플러그인으로, 로컬 모델을 돌리거나 Anthropic/OpenAI API를 호출한다. 후자는 정책 enforcement 자체가 불가능하다. 오픈소스이고, 사용자가 직접 API key를 꽂기 때문이다.

OpenAI

OpenAI는 2024년 "disrupting malicious uses of AI" 보고서를 발간하면서 이란/북한/러시아 행위자를 언급한 바 있다. 하지만 무기 코드는 거론하지 않았다. OpenAI의 Agent 제품(Codex CLI, o3 Agent)도 유도 코드를 작성할 수 있다.

Google

Gemini CLI는 2025년에 나온 따끈따끈한 제품이라 threat report가 없다. 다만 Google은 국방부 계약(Project Maven, NGA)을 갖고 있어 경계선 자체가 모호하다.

차이점이 뭔가: Anthropic은 현재 유일하게 무기 관련 misuse를 주도적으로 공개한 업체다. 나머지는 그런 일이 없었거나, 공개하지 않았거나, 애초에 제대로 조사하지 않았을 수 있다.

Agent 시대의 abuse는 Chatbot 시대보다 한 차원 더 막기 어렵다

이 부분이 가장 핵심이며, 대부분의 논의가 놓치는 지점이다.

Chatbot 시대의 abuse 모델은 "대화"다.

  • 사용자 입력 → 모델 처리 → 텍스트 출력
  • Detection은 입력과 출력 양 끝단에서 수행
  • 출력 filtering으로 "폭탄 제조 방법" 같은 키워드를 잡아낸다
  • 이 패러다임은 GPT-3 시대부터 쓰여 비교적 성숙하다

Agent 시대의 abuse 모델은 "실행"이다.

  • 사용자가 목표 제시 → Agent가 계획 수립 → Agent가 N개 단계를 실행 → 최종 산출물
  • 중간 단계는 모두 합법적으로 보인다
  • 최종 산출물은 물리적 파괴로 이어질 수 있다 (무기 코드, 공격 스크립트, 랜섬웨어)
  • Detection은 전체 실행 궤적에서 이루어져야 하며, 복잡도는 한 단계 더 높다

구체적인 예시다. Chatbot 출력에서 "TNT 제조법"을 탐지하는 건 분류기를 돌리면 끝이며, 재현율 99% 이상이다. Agent가 "특정 칼만 필터 + 시리얼 통신 프로토콜 + 실시간 스케줄링" 조합을 작성 중임을 탐지하려면 어떻게 라벨링할 것인가. 한 단계 한 단계가 모두 합법적 엔지니어링 관행이다.

더 골치 아픈 건, Agent의 산출물이 시야 밖에 있을 수 있다는 점이다. Agent가 사용자 로컬에서 파일을 쓰고 명령을 실행하면, vendor가 보는 건 "사용자와 Agent의 대화 기록"뿐이며 로컬 파일 시스템은 보이지 않는다. Agent가 IDE 플러그인 형태(Cursor, Windsurf)이면, vendor는 IDE 내부 prompt만 볼 뿐 로컬 파일 조작 로그는 아예 올라오지 않는다.

내 판단은 이렇다. 기존 red team 사고방식은 Agent 시대를 더 이상 커버하지 못한다. OpenAI와 Anthropic의 red team은 주로 prompt injection, jailbreak, bias를 테스트한다. 하지만 Agent 시대의 핵심 문제는 "다단계의 합법적 조작이 유해 산출물로 조합될 수 있는가"이며, 이는 prompt 단계의 공격이 아니라 planning 단계의 공격이다. 새로운 threat model이 필요하다.

편집자의 생각

이 사건은 Anthropic의 실패가 아니라 Agent 산업 전체의 실패다. 후티 무장 세력 한 곳이 뚫렸다는 건, 동기가 있는 어떤 행위자에게나 이 길이 열려 있다는 뜻이다. 차이는 "Claude Code를 쓰느냐, Cursor를 쓰느냐, Cline을 쓰느냐"에 불과하다.

내 예측: 향후 6개월 안에 더 많은 vendor가 비슷한 사례를主动적으로 공개할 것이다. 이유는 단순하다. Anthropic이 이 선례를 만들었기 때문에, 지금 공개하지 않는 쪽이 오히려 리스크가 커졌다. 규제 기관, 언론, 사용자들이 모두 주시하고 있다.主动적으로 인정하는 편이 지목당하는 것보다 낫다.

과거 AI safety 사건들과 비교했을 때, 이번 산출물은 사람을 직접 죽일 수 있는 코드다. Deepfake는 이미지, Bing Sydney는 텍스트, GPT jailbreak는 대화. 이들의 결과에는 지연이 있고, 중개자가 필요하며, 효과를 키우는 단계가 끼어 있다. 하지만 무기 코드는 다르다. 학부 CS 학생이 Claude Code로 생성한 유도 로직을 비행제어보드에 굽고, 기체가 이륙하면, 그것이 곧 지연 없는 종단간 물리적 피해다.

아직 모르는 부분:

  • Anthropic 보고서에 누락된 "구체적 우회 수단"이 정확히 뭔가. prompt 분해일 수도, 계정 남용일 수도, 둘 다일 수도 있다.
  • 후티 무장 세력이 Claude Code가 생성한 코드를 어디까지 활용했는가. Agent에 완전히 의존했는지, 아니면 Agent를 단순 IDE 가속기로 썼는지. 전자라면 훨씬 무섭다.
  • 이 사건이 Anthropic 사업에 미치는 영향. B2B 고객은 더 긴장할 수 있고, 정부 고객은 신경 쓰지 않을 수도 있다 (이미 쓰고 있으니까).

Agent 산업이 풀어야 할 문제는 "더 잘 코드를 짜는 것"이 아니라 "짠 코드가 어떻게 쓰일지를 관리하는 것"이다. ChatGPT 시대에는 이 문제를 모른 척할 수 있었지만, Agent 시대에는 더 이상 외면할 수 없다.


참고 출처:

출처: https://clashreport.com/world/articles/houthis-used-claude-code-to-develop-missile-guidance-software-anthropic-s52mnx4pwpo