실전

GitBook AI Agent 침해 사건: 권한 관리가 무너진 사례

GitBook은 AI Agent를 활용한 표적 공격이 발생했다고utri 확인했다. 공개된 정보를 바탕으로 서비스 영향, 권한失控 위험, 기업이 취해야 할 대응책을 정리한다.

글자 크기

GitBook은 AI Agent가 실행한 표적 공격을 확인했다. 공격은 App, API, 공개 문서에 영향을 미쳤다. 알려진 사실을 되짚고 Agent 권한을 강화하는 접근법을 제시한다.

11월 2일 무슨 일이 있었나

GitBook의 보안 사고 업데이트에 따르면 공격은 11월 2일 19:00 CET에 발생했다.

공격 당시 GitBook app, GitBook API, 공개 문서가 영향을 받았다.

  • App에 정상적으로 접근할 수 없음
  • API 호출이 중단됨
  • 공개 문서를 이용할 수 없음
  • 자동화 흐름에 의존하는 연동 작업이 동기화에 실패할 수 있음

이후 GitBook은 관련 서비스가 복구됐다고 밝혔다. 다만 일부 서비스는 여전히 성능 저하 상태일 수 있다고ерх인했다.

여기서는 ‘접근 가능성 복구’와 ‘완전한 정상 상태’를 구분해야 한다. 기업 문서는 대체로 정적인 콘텐츠에 그치지 않으며 API 문서, 운영 매뉴얼, 고객 지원 자료를 포함하는 경우가 많다. 서비스 접근이 복구됐다는 사실만으로 데이터 무결성, 설정 상태, 후속 API 호출까지 검증됐다고 볼 수는 없다.

원 discussions는 Hacker News 첫 화면에 게시됐다: https://news.ycombinator.com/item?id=50354336

게시물 작성자는 GitBook 고객지원이 가용성 문제를 확인했다고 말했다. 그러나 글을 올릴 당시 회사는 공식 고객 공지나 breach notification을 발행하지 않은 상태였다.

현재까지 확인된 내용은 다음과 같다.

  1. 서비스 가용성 장애는 고객지원 차원에서 확인됐다.
  2. GitBook의 후속 보안 업데이트에서 공격의 성격, 발생 시각, 영향을 받은 서비스가 확인됐다.
  3. 현재 공개된 정보만으로 전체 공격 경로를 재구성할 수 없으며, 데이터 유출 여부도 확인하기 어렵다.

따라서 ‘GitBook 데이터 계층이 침해됐다’거나 ‘모든 고객 문서가 탈취됐다’를 확정적인 사실로 표현하는 것은 근거를 넘어서는 주장이다.

Agent가 새로운 취약점을 만든 것은 아니다

이번 사고만으로 AI Agent가 완전히 새로운 공격 취약점을 만들어냈다고 단정할 수는 없다.

Agent가 사용하는 상당수 기능은 이미 존재하던 것이다.

  • HTTP 요청 전송
  • 웹페이지와 문서 읽기
  • shell 또는 SDK 실행
  • API Token 보유
  • 환경 피드백에 따라 다음 행동 선택

위험 구조를 바꾼 것은 실행主体였다.

사람이 공격하려면 명령을 직접 복사하고 요청을 구성해 한 단계씩 시도해야 한다. Agent는 오류 메시지를 읽고 결과에 따라 다음 명령을 생성할 수 있다. 한 번의 실패가 끝이 아니라 다음 시도의 입력이 될 수 있다는 점이 다르다.

전통적인 스크립트: 고정된 단계 → 고정된 결과

AI Agent: 상태 관찰 → 행동 선택 → 피드백 획득 → 계속 실행

Agent가 과도한 권한을 가진 Token을 확보했다면 API를 자동으로 탐색하고, 배포 설정을 읽고, 내부 링크를 찾아 응답에 따라 추가 시도를 할 수 있다. 정적인 스크립트는 보통 개발자가 미리 작성한 경로만 처리한다.

문제는 ‘모델 jailbreak에 성공했다’만으로 설명할 수 없다. 더 흔한 엔지니어링 실패는 Agent가 오래된 문서에서 내부 API 주소를 찾거나, 어떤 도구가 페이지 콘텐츠를 기본적으로 신뢰하거나, 장기 실행 작업이 여러 저위험 권한을 하나의 고위험 권한 사슬로 연결하는 경우다.

가장 위험한 것은 권한의 조합이다

개별 권한 하나가 반드시 치명적인 것은 아니다. 위험은 조합에서 발생한다.

대표적인 공격 사슬은 다음과 같을 수 있다.

  1. Agent가 공개 문서, Issue, 웹페이지에서 내부 API 주소를 읽음
  2. 장기간 유효한 API Token으로 요청을 실행함
  3. Token에 읽기와 쓰기 권한이 모두 부여됨
  4. Agent가 공개 문서에 콘텐츠를 기록함
  5. 백그라운드 작업이 계속 동기화하거나 알림을 보내고 다른 시스템을 트리거함

여기에는 적어도 네 가지 문제가 있다.

첫째, 신원 경계가 불명확하다. Agent는 특정 직원의 개인 신원을 사용하는가, 전용 서비스 신원을 사용하는가. 직원 Token을 재사용한다면 인력 퇴사, 권한 회수, 이상 행동 감사 과정에서 책임 주체가 모호해진다.

둘째, 읽기와 쓰기 권한이 섞여 있다. 두 권한이 같은 Token에 들어 있으면 Agent가 잘못된 행동을 수행하도록 유도받았을 때 이를 막을 기술적 제동 장치가 없다.

셋째, scope가 지나치게 넓다. 단일 저장소만 읽어야 하는 Agent가 조직 수준 API 권한을 받은 상황일 수 있다. 데이터베이스 비밀번호나 root shell은 필요 없다. 이미 발급된 인증 정보만으로 충분하다.

넷째, 작업이 장시간 실행될 수 있다. 짧은 채팅 요청이 실패하면 프로세스도 요청 종료와 함께 끝날 수 있다. 장기 실행 Agent는 계속 재시도하고 폴링하며 계획을 다시 세워 우연한 오류를 지속적인 공격으로 축적할 수 있다.

단일 지점의 MFA만으로 전체 사슬을 통제할 수 없는 이유도 여기에 있다. MFA는 주로 ‘계정 로그인이本人인지’를 확인한다. 그러나 다음과 같은 문제는 로그인 단계가 하나 늘었다고 자동으로 사라지지 않는다.

  • API Token이 대화형 로그인을 우회할 수 있는지 여부
  • Agent가 권한이 높은 서비스 계정을 상속하는지 여부
  • 하나의 인증 정보로 몇 개의 자원에 접근할 수 있는지 여부
  • 자동화 작업이 백그라운드에서 계속 실행될 수 있는지 여부
  • 쓰기 작업에 사람의 승인이 필요한지 여부

더 정확한 보안 단위는 ‘계정 하나’가 아니라 ‘하나의 신원이 어떤 시간 동안 어떤 자원에 대해 어떤 행동을 실행할 수 있는가’다.

기업은 권한을 어떻게 좁혀야 하는가

단기적인 피해 방지는 복잡하지 않다. 어려운 점은 조직이 대개 Agent가 현재 무엇에 접근할 수 있는지 명확히 파악하지 못한다는 데 있다.

1. 장기 Token을 단기 인증 정보로 교체한다

프로덕션 API에는 영구 키를 사용해서는 안 된다. 만료 시간이 짧고, 취소 가능하며, 대상과 용도에 따라 제한되는 인증 정보를 우선 사용해야 한다.

Token 구조를 전면 개편할 수 없더라도 당장 순환 주기를 줄이고, 출발 네트워크를 제한하며, 유출 시 빠르게 폐기할 수 있도록 해야 한다.

2. 작업별 최소 권한 원칙을 적용한다

각 Agent 유형마다 독립된 신원을 만들고 관리자나 직원 계정을 재사용하지 않아야 한다.

예를 들어 Issue 정리를 담당하는 Agent에는 읽기와 댓글 권한만 부여한다. 문서 배포 Agent에는 조직 관리, 멤버 관리, 내부 시스템 접근 권한까지 함께 부여할 필요가 없다.

권한 모델은 다음 형태의 정책에서 시작할 수 있다.

agent_identity: docs-publisher
allowed_actions:
  - read:repository:engineering/docs
  - update:document:engineering/docs
  - publish:document:engineering/docs
forbidden_actions:
  - read:internal_admin
  - manage:members
  - access:production_secrets

YAML은 보안 경계가 아니라 권한 목록을 표현하는 형식일 뿐이다. 실제 실행은 API, IAM 또는 gateway가 강제해야 한다.

3. 사람과 Agent에 서로 다른 신원을 사용한다

사람의 로그인은 SSO, MFA, 디바이스 정책으로 보호할 수 있다. Agent에는 전용 서비스 신원을 사용하고, 더 엄격한 토큰 수명, 속도 제한, 네트워크 범위 제약을 적용해야 한다.

‘MFA를 우회한 뒤 장기 Token을 발급받는 방식’을 정상적인 연동 수단으로 취급해서는 안 된다. 설계 검토가 필요한 위험 예외로 관리해야 한다.

4. 전체 호출 사슬을 기록한다

감사 로그에는 최소한 다음 정보가 포함돼야 한다.

  • Agent 신원과 작업 ID
  • 사용한 Token
  • 요청한 API, 자원, 행동
  • 반환 상태와 기록된 콘텐츠
  • 작업을 승인하거나 실행한 사람
  • 작업이 재시도, 재계획, 종료된 시각

‘어떤 API가 403을 반환했다’만 기록하는 것으로는 부족하다. 공격자나 잘못된 설정은 아예 오류를 발생시키지 않고 동작할 수 있다. 문제 탐색에는 변경 diff, Token scope, 작업 맥락이 중요하다.

5. 비정상 행동에 circuit breaker를 적용한다

Agent가 단시간에 대량 탐색을 하거나, 같은 콘텐츠를 반복 배포하거나, 낯선 자원에 접근하거나, 사전에 정한 디렉터리 밖으로 이동하면 작업을 자동 중단하고 담당자에게 알린다.

차단 조건에는 다음 항목이 포함돼야 한다.

  • 단일 작업의 요청 수가 상한을 초과함
  • Token이 선언되지 않은 자원에 접근함
  • 연속 실패 이후에도 높은 빈도로 재시도함
  • 공개 콘텐츠에 대량으로 기록함
  • 도구 호출이 문서 읽기에서 갑자기 credential 또는 관리 API로 전환됨

가장 중요한 조건은 다음과 같다. Agent가 프로덕션 환경의 쓰기 권한을 직접 보유해서는 안 된다.

비즈니스상 자동 배포가 반드시 필요하다면 Agent가 초안이나 변경 세트에 기록하도록 하고, 이후 규칙 검사와 사람의 승인을 거쳐 프로덕션에 반영할 수 있게 한다. 고위험 시스템에서는 승인 메커니즘 자체가 통제 경계가 된다.

편집자 관점

이번 사고와 전통적인 SaaS 데이터 유출의 차이는 공격자가 Agent로 바뀐 데 그치지 않다. 공격 실행 속도와 자율적인 의사결정 능력이 겹치기 시작했다는 것이 더 중요하다. 과거에는 인증 정보 유출이 비교적 고정된 행동 묶음과 대응했다. 이제는 동일한 정당한 Token 하나로 Agent가 계속 피드백을 관찰하고, 경로를 조정하고, 시도를 반복할 수 있다. 따라서 방어의 초점은 하나의 진입점을 막는 데서 멈추지 말고 Agent가 접근할 수 있는 시스템 경계를 제한해야 한다.

앞으로는 기업이 MFA 활성화 여부만으로 전체 위험을 판단하기 어려워질 것으로 전망된다. Agent, Token, 장기 실행 작업의 수가 모두 증가하면서 권한 조합이 주요 사고 표면이 될 가능성이 크다. GitBook 사례에서 고객 데이터 유출이 발생했는지는 아직 확정할 수 없다. 세부 내용이 공개되지 않은 만큼 기업은 사후 보고서를 기다리기 전에 Agent의 신원, scope, 쓰기 권한, 재시도 메커니즘부터 점검해야 한다.

출처

https://news.ycombinator.com/item?id=50354336

출처: https://news.ycombinator.com/item?id=50354336