실전

LiteLLM 공급망 침해 분석: Agent 비밀키 노출 위험

SafeDep이 LiteLLM 1.107.0에서 발견한 Credential Stealer와 Backdoor를 바탕으로, 악성 패키지가 Agent의 비밀키와 권한을 탈취하는 경로를 분석한다. AI 엔지니어링 팀이 취해야 할 버전 고정, 자격 증명 교체, 권한 격리 조치를 제시한다.

글자 크기

LiteLLM 1.107.0에서 Credential Stealer와 Backdoor가 포함된 것으로Nyaikdeprecatedij. 피해 범위는 특정 의존성 버전에 국한되지 않으며, PyPI, 환경 변수, 런타임 권한을 함께 점검해야 하는 Agent 팀에 광범위한 리스크를 준다.

SafeDep의 분석에 따르면 이 악성 버전은 Credential Stealer와 Backdoor를 설치한다.

핵심은 Agent의 보안 경계가 Prompt Injection에만 머물러 있지 않다는 점이다. 모델 입력뿐 아니라 Python 의존성, 모델 게이트웨이, 환경 변수, 도구 권한이 모두 공격 경로가 될 수 있다.

PyPI 패키지 하나로 Agent 비밀키까지 노출되는 과정

LiteLLM은 여러 모델을 연결하는 게이트웨이와 에이전트 프레임워크다. 애플리케이션과 모델 제공업체 사이에서 요청을 라우팅하고, 모델 설정을 관리하며, 제공업체별 호출을 처리하는 역할을 한다.

다음과 같이 배포하는 경우가 많다.

from litellm import completion

response = completion(
    model="anthropic/claude-sonnet-4-5",
    messages=[{"role": "user", "content": "Summarize this ticket"}],
    api_key=os.environ["ANTHROPIC_API_KEY"],
)

이 경우 LiteLLM이 실행되는 프로세스는 보통 하나의 모델 제공업체 자격 증명만 다루지 않는다.

보유할 수 있는 비밀정보는 다음과 같다.

  • Anthropic, OpenAI 등 모델 제공업체의 API key
  • AWS, Azure, Google Cloud의 접근 자격 증명
  • 데이터베이스, 오브젝트 스토리지, 내부 서비스 자격 증명
  • Agent 도구 호출에 필요한 내부 API token
  • 로그, 과금, 모니터링, 트레이싱 시스템의 비밀키

PyPI 패키지 업데이트의 위험은 단순히 악성 버전이 설치됐다는 데서 끝나지 않는다. 악성 코드가 게이트웨이 프로세스 안에서 실행되면, 해당 프로세스가 이미 보유한 권한을 그대로 이용할 수 있다.

LiteLLM 1.107.0의 구체적인 위험

SafeDep은 LiteLLM 1.107.0의 PyPI 패키지가 공급망 침해를 당했다고 밝혔다. 보고서 제목과 요약에는 이 버전이 Credential Stealer와 Backdoor를 설치하는 것으로 확인됐다는 내용이 명시됐다.

여기서는 두 가지 상황을 구분해야 한다.

  1. 공급망 침해: 공격자가 실제 패키지 게시 또는 배포 경로에 진입했다.
  2. 악성 기능 구현: 설치된 코드에 자격 증명 탈취기와 백도어 기능이 포함됐다.

이는 일반적인 typo-squatting과는 다르다.

typo-squatting은 보통 litellm과 비슷한 잘못된 패키지명을 만들어 사용자가 설치하도록 유도한다. 공격자는 사용자의 입력 실수를 이용한다.

이번 사례는 ‘정상 패키지가 교체됐거나’ ‘게시 프로세스가 장악됐다’에 더 가깝다. 의존성 이름은 정확하고 프로젝트도 LiteLLM을 정상적으로 사용했지만, 특정 버전으로 업데이트된 뒤 패키지 자체가 바뀌었다.

엔지니어링 팀은 기존의 기본 보안 가정을 바꿔야 한다.

패키지명이 정확함 ≠ 버전이 안전함
잠금 파일이 존재함 ≠ 모든 패키지를 신뢰할 수 있음
CI 설치가 성공함 ≠ 프로덕션에서 악성 로직이 실행되지 않음

특히 postinstall, 빌드 스크립트, 동적 설치 로직을 주의해야 한다. 악성 코드는 업무 코드가 호출될 때만 실행되는 것이 아니라 설치, 프로세스 시작, 모듈 import 단계에서 실행될 수 있다.

원문 보안 분석: https://safedep.io/litellm-pypi-compromise-credential-stealer-backdoor/

가장 위험한 것은 설치가 아니라 비밀키 탈취

Credential Stealer와 Backdoor는 서로 다른 수준의 위험을 다룬다.

자격 증명 탈취기는 ‘무엇을 가져올 것인가’를 해결한다.

  • 환경 변수
  • 클라우드 서비스 설정
  • 로컬 자격 증명 파일
  • 프로세스 내 token
  • 프록시 서비스가 사용하는 API key

백도어는 ‘나중에 다시 들어오는 방법’을 해결한다.

  • 시스템에 다시 접근할 수 있는 통로 유지
  • 후속 명령 대기
  • 특정 조건에서 실행 재개
  • 단기적인 패치만으로 위험을 완전히 제거할 수 없게 만들기

두 기능이 결합되면 공격은 일회성 데이터 탈취에서 지속적인 접근 위험으로 바뀔 수 있다.

일반 애플리케이션에서 채팅 API key 하나가 노출되면 과금과 요청 한도에 영향을 줄 수 있다. AI Agent의 경우 피해 범위는 대체로 더 크다.

Agent는 단순히 ‘텍스트를 생성하는’ 구성 요소가 아니다. 도구 호출 권한이 있다면 다음과 같은 작업을 수행할 수 있다.

  • 코드 저장소 읽기
  • 파일 수정 및 변경 사항 커밋
  • 내부 데이터베이스 조회
  • 티켓, CRM, 이메일 시스템 호출
  • 서비스 배포
  • 결제 또는 클라우드 리소스 운영

모델 게이트웨이나 Agent runtime이 높은 권한의 비밀키를 확보하면 Prompt Injection은 이후 이용할 수 있는 공격 수단 중 하나일 뿐이다. 공격자는 모델을 속여 링크를 열게 만들 필요도 없다. 악성 코드가 자격 증명을 직접 읽거나 후속 호출을 위조할 수 있다.

실제로 주목해야 할 것은 다음과 같은 권한 연결 구조다.

악성 PyPI 패키지
    ↓
Agent runtime / LiteLLM 프로세스
    ↓
환경 변수, 설정 파일, 클라우드 자격 증명
    ↓
내부 API, 코드 저장소, 프로덕션 시스템

AI 엔지니어링 팀을 위한 세 가지 즉시 대응 절차

1. 버전과 hash를 함께 고정한다

버전 범위만 지정해서는 안 된다.

[project]
dependencies = [
  "litellm>=1.100.0",
]

이 방식에서는 빌드할 때마다 서로 다른 버전이 해석될 수 있다. 프로덕션 Agent에는 충분한 보안 통제가 아니다.

버전을 고정하고 lockfile에 전체 의존성을 기록해야 한다. 설치할 때는 hash도 검증할 수 있다.

python -m pip install --require-hashes -r requirements.txt

CI에는 다음 항목을 저장하고 검토해야 한다.

  • requirements.txt의 정확한 버전
  • poetry.lock, uv.lock, pip-tools로 생성한 잠금 파일
  • 패키지 파일의 hash
  • pip list, pipdeptree, uv pip tree로 확인한 의존성 트리
  • 빌드 및 설치 단계에서 실제로 실행된 스크립트

이미 침해 확인 구간에 포함됐던 버전은 업그레이드한 뒤 계속 사용하면 안 된다. 먼저 악성 버전이 실행됐는지 확인하고, 교체해야 할 자격 증명을 판단해야 한다.

2. 환경에 나타난 모든 비밀키를 교체한다

1.107.0이 개발 머신, CI runner, 컨테이너 이미지 또는 프로덕션 환경에 들어간 적이 있다면 기본적으로 ‘관련 자격 증명이 노출될 수 있다’고 처리해야 한다.

최소한 다음 항목을 점검한다.

  • 모델 제공업체 API key
  • 클라우드 플랫폼 access key
  • 데이터베이스 비밀번호 및 연결 문자열
  • GitHub, GitLab, GitHub Actions 등 코드 플랫폼 token
  • Slack, 이메일, 모니터링, 로그 서비스 token
  • Agent가 호출할 수 있는 내부 서비스 자격 증명

교체는 단순히 새 key를 발급하는 것만으로 끝나지 않는다. 신구 key를 병행해 전환하고, 기존 key가 무효화됐는지 확인하며, 비정상적인 호출 기록을 점검해야 한다.

권한도 함께 검토해야 한다. Claude 호출에만 사용하는 key라면 코드 저장소 읽기나 프로덕션 서비스 배포 권한까지 동시에 부여해서는 안 된다.

3. 배포 자격 증명을 격리한다

모델 게이트웨이는 가능한 한 독립된 최소 권한 환경에서 실행해야 한다.

다음과 같이 계층을 분리할 수 있다.

Agent API 서비스
  └─ 단기 Agent token만 보유

LiteLLM 게이트웨이
  └─ 필요한 모델 제공업체 key만 보유

배포 및 클라우드 제어 plane
  └─ Agent 컨테이너에 접근하지 않음

구체적인 방법은 다음과 같다.

  • 컨테이너나 가상 머신으로 런타임 환경 격리
  • Agent runtime이 클라우드 플랫폼 제어 plane 자격 증명을 읽지 못하도록 제한
  • 자동 만료가 설정된 단기 token 사용
  • 도구 호출에 allowlist 적용
  • 게이트웨이 아웃바운드 네트워크 제한
  • 프로덕션 배포를 독립된 CI/CD 신원으로 분리
  • ~/.aws, ~/.ssh, ~/.config 등 민감 디렉터리를 기본으로 읽지 못하도록 제한
  • 외부 입력을 실행하기 직전에 권한을 다시 확인

CI부터 프로덕션까지 다음 체크리스트로 점검할 수 있다.

[ ] LiteLLM 1.107.0을 설치한 적이 있는가?
[ ] 잠기지 않은 의존성을 해석한 적이 있는가?
[ ] postinstall이나 동적 다운로드 동작이 존재하는가?
[ ] 빌드 이미지와 캐시를 점검했는가?
[ ] 모델, 클라우드 플랫폼, 내부 API 자격 증명을 교체했는가?
[ ] Agent runtime이 불필요한 프로덕션 권한을 보유하고 있는가?
[ ] 비정상적인 token 사용과 아웃바운드 연결을 확인했는가?

LangGraph, MCP 또는 자체 도구 계층을 사용하는 팀은 각 계층을 점검 범위에 포함해야 한다. 게이트웨이는 의존성 연결 구조의 한 부분일 뿐이다.

보안 관점의 핵심

이번 사건의 중요점은 LiteLLM이 영구적으로 ‘오염’될 수 있는지가 아니다. Agent 팀의 보안 경계가 모델 응답 영역에서 런타임까지 확장됐음을 보여준다. Python 패키지 업데이트 하나로 모델 key, 클라우드 자격 증명, 내부 API 권한에 동시에 접근할 수 있다. 이는 과거의 Prompt Injection과 다르다. Prompt Injection은 보통 모델 입력에서 시작하며 모델을 유도해야 하지만, 공급망 공격은 코드와 권한 계층에서 직접 발생할 수 있어 모델을 설득할 필요가 없다.

Agent 팀은 앞으로 ‘최소 권한’을 Prompt Injection보다 기본 원칙으로 다룰 가능성이 크다. 모델과 도구를 검증하는 것은 물론 중요하지만, 하나의 게이트웨이 프로세스가 수십 개의 장기 비밀키를 보유한다면 어떤 의존성 오염도 빠르게 확대된다.

다만 아직 확인되지 않은 부분이 남아 있다. 악성 코드가 어떤 조건에서 어떤 자격 증명을 수집했는지, Backdoor가 외부 통신을 수행했는지, 환경이 2차 악용됐는지는 버전 번호만으로 판단할 수 없다. 팀은 업그레이드만으로 위험이 사라졌다고 단정하지 말고 설치 로그, 빌드 캐시, 네트워크 연결, 비밀키 호출 기록을 대조해야 한다.

출처

출처: https://safedep.io/litellm-pypi-compromise-credential-stealer-backdoor/