실전

Volta 악성코드, LLM으로 피해자 가치 평가

Volta는 LLM을 활용해 피해자 가치와 데이터 수집 우선순위를 판단한다. enterprises는 악성 프롬프트 검사뿐 아니라 모델 호출부터 파일 읽기와 데이터 유출까지 이어지는 행동 체인을 분석해야 한다.

글자 크기

Talos가 공개한 정보 탈취 악성코드 Volta는 LLM을 호출해 피해자의 가치를 평가하고 이를 바탕으로 정보 수집 순서를 정한다. enterprises가 보강해야 할 부분은 악성 프롬프트 탐지만이 아니라 행동 체인의 연관성 분석이다.

Volta 악성코드, LLM으로 피해자 가치 평가

전통적인 정보 탈취 악성코드의 절차는 크게 정해져 있다. 정찰, 전달, 지속성 확보, 자격증명 수집, 문서 검색, 그리고 데이터 압축 및 전송이 그것이다.

Volta는 이 중 한 단계를 바꿨다.

Talos Intelligence는 Volta라는 정보 탈취 악성코드를 공개했다. 이 악성코드는 대규모 언어 모델을 활용해 잠재적 피해자를 평가하고, 데이터의 가치와 정보 탈취 우선순위를 판단한다. 공개된 분석의 핵심은 바로 이 AI 기반 ‘피해자 우선순위 평가’ 메커니즘이다. 즉, 생성형 AI가 공격 체인에 직접 편입되는 사례다.

이는 ‘AI로 그럴듯한 피싱 메일을 작성한다’?는 수준보다 한 단계 나아간다. LLM은 공격 체인 바깥에서 콘텐츠만 생성하는 것이 아니라, 공격자가 누구를 먼저 다룰지, 어떤 데이터를 먼저 찾을지, 어떤 목표에 자원을 더投入할지를 결정한다.

LLM은 문안 생성에 머물지 않고 공격 결정에 참여

많은 사람이 악성코드의 AI 활용을 문안 생성 정도로만 인식한다.

프롬프트에 ‘당신은 어떤 회사의 재무contra主管’처럼 지시해 모델이 독촉 메일을 만들거나, 악성 스크립트를 정상 코드처럼 보이도록 다시 쓰게 한다. 이런 기능은 데모하기 쉽고 이해하기 쉽다.

Volta의 활용 방식은 분석 단계에 더 가깝다.

Talos Intelligence의 설명에 따르면 Volta는 수집한 피해자 정보를 대규모 언어 모델에 전달하고, 모델 출력을 활용해 ‘Appraisal’, 즉 가치 평가를 수행한다. 그 결과에 따라 이후 데이터 수집 방향과 실행 순서가 달라진다.

다시 말해 LLM은 단순한 콘텐츠 생성기가 아니라 공격 의사결정 체계의 구성 요소다.

이런 변화는 주목할 만하다. 텍스트에 악성 특징이 있는지는 여전히 분류기, 규칙, 샌드박스로 탐지할 수 있다. 하지만 ‘누가 더 훔치기 가치가 있는가’, ‘지금 어떤 단계를 먼저 실행해야 하는가’를 고정된 문자열로 잡기는 어렵다. 이런 판단은 문맥과 여러 정보의 요약 능력에 의존한다.

모델 출력은 어떻게 공격 순위가 되는가

이 메커니즘을 분해하면 대략 네 단계로 정리할 수 있다.

  1. 악성코드가 목표와 관련된 정보를 수집한다.
  2. 수집된 정보를 정리해 LLM에 전송한다.
  3. 모델 출력을 피해자 가치 또는 우선순위 신호로 분석한다.
  4. 공격 프로그램이 그 결과에 따라 데이터 검색, 수집, 유출 순서를 정한다.

핵심은 세 번째 단계에서 네 번째 단계로 이어지는 과정이다.

모델이 자연어 텍스트만 반환한다면 악성코드는 이를 실행 가능한 결정 필드로 변환해야 한다. 예를 들면 다음과 같다.

{
  "victim_id": "host-17",
  "appraisal": 86,
  "priority": 1,
  "signals": [
    "finance-related files present",
    "browser credential stores accessible",n    "sensitive documents indexed"
  ]
}

이 JSON은 메커니즘을 설명하기 위한 예시일 뿐, Talos가 공개한 Volta 소스 코드나 인터페이스 형식을 그대로 나타낸 것은 아니다. 실제 구현은 숫자를 직접 출력하지 않을 수도 있으며, 등급, 라벨, 정렬 제안 형태로 결과를 반환할 수도 있다.

하지만 제어 방식은 이미 바뀌었다. 공격자는 모델을 반복 작업 흐름에 넣을 수 있다. 여러 목표를 수집해 일괄적으로 평가한 뒤, 그 결과에 따라 작업 대기열을 조정하는 방식이다.

모델 출력은 이제 ‘사람처럼 읽히는 문장’이 될 필요가 없다. 프로그램이 다음에 할 일을 안정적으로 바꾸기만 하면 된다.

사용 장벽이 낮아졌다고 능력이 강해진 것은 아니다

여기서 과도하게 해석하기 쉬운 부분이 있다.

LLM이 Volta에 새로운 제로데이 취약점을 자동으로 부여하지 않았고, 악성코드를 탐지 불가능한 고급 프로그램으로 바꾸지도 않았다. 해결한 문제는 훨씬 현실적이다.

  • 목표 정보를 대량으로 처리한다.
  • 피해자를 수작업으로 선별하는 시간을 줄인다.
  • 공격자마다 다른 ‘훔을 가치가 있는가’ 기준을 통일한다.
  • 정찰, 의사결정, 자동화 작업을 연결한다.

Talos Intelligence는 공격자가 LLM을 도입하기 쉬워지고 있다고Bruno했다. 모델은 정찰, 의사결정, 자동화 업무에 사용할 수 있다. 공격자에게 있어 그 가치는 먼저 기술적 마법이 아니라 업무 비용 절감에 있을 수 있다.

대부분의 공격은 매번 최적의 선택을 내릴 필요가 없다. 고부가가치 목표를 소수만 sufficiently 빠르게 찾으면 충분하다. 모델이 수백 개의 후보 목표를 거친하게 정렬하고 사람의 注의를 상위 몇 개에 집중하게 한다면 이미 충분한 효과가 있다.

따라서 Volta는 비용 구조의 변화에 가깝다.

예전에는 파일 읽기, 자료 요약, 키워드 나열이 병목일 수 있었다. 이제 이런 단계는 API나 로컬 모델에 맡길 수 있다. 공격자가 지불하는 비용은 ‘무료 진입장’이 아니라 더 낮은 호출 비용, 더 짧은 운영 시간, 더 일관된 대량 판단으로 바뀐다.

154점이 모인 배경, 개발자가 주목한 부분

이 소식은 Hacker News 메인 페이지에도 올라가 154점과 67개의 댓글을 받았다.

개발자 커뮤니티의 관심은 단순히 ‘또 하나의 악성코드가 AI를 사용했다’는 사실에 국한되지 않는다. 더 현실적인 질문은 세 가지다.

첫째, 탐지 로직을 바꿔야 하는가다.

악성 행위가 모델 호출을 거쳐 실행되더라도, 방어 측에서 관찰하는 엔드포인트 행동은 기존 샘플과 매우 유사할 수 있다. 모델은 결정을 담당할 뿐, 악성코드는 결국 프로세스, 파일, 네트워크, 자격증명 접근을 실행해야 한다.

둘째, 모델 악용의 경계를 어떻게 정할 것인가다.

공격자는 공개 모델 서비스를 호출할 수도 있고 로컬 모델을 사용할 수도 있다. API 제공 업체는 일부 악성 요청을 탐지할 수 있지만, 감염된 모든 엔드포인트의 전체 과정을 볼 수는 없다.

셋째, 오픈소스 모델의 방어 가치가 커지는가다.

추론을 완전히 오프라인에서 처리할 수 있다면 악성코드는 눈에 띄는 클라우드 API 요청을 남길 필요가 없다. enterprises는 Anthropic, OpenAI 등 외부 인터페이스만 모니터링해서는 안 되며, 로컬 가중치, 추론 프레임워크, 엔드포인트 실행 환경도 고려해야 한다.

154점이 developers가 이러한 접근을认同했다는 뜻은 아니다. 오히려 하나의 신호에 가깝다. 악성코드의 LLM 도입이 개념 데모를 넘어 공개 사례 분석 단계에 진입했다는 의미다.

기업은 어느 방어 계층을 보강해야 할까

방어 측은 ‘악성 텍스트를 생성했는지’만 검사해서는 안 된다.

더 효과적인 방법은 행동 체인을 관찰하는 것이다.

  • 비정상 API 호출: 엔드포인트가 평소 사용하지 않던 모델 서비스에 갑자기 연결하는지 확인한다. 프롬프트에 호스트 이름, 사용자 이름, 파일 인덱스, 자격증명 단서가 대량으로 포함되어 있는지도 살펴본다.
  • 자격증명 노출: 브라우저 비밀번호, SSH key, 클라우드 접근 키, token이 예상하지 못한 프로그램에 의해 읽히는지 확인한다.
  • 엔드포인트 행동: 정보 탈취 프로그램이 하위 프로세스를 실행하거나 디렉터리를 검색하거나 시스템 자격증명 저장소에 접근하거나 광범위한 파일을 패키징하는지 살펴본다.
  • 데이터 유출 행동: 암호화된 트래픽의 크기, 목적지, 접속 시간, 주기가 정상 소프트웨어 기준과 일치하는지 확인한다.

기업은 모델 호출과 파일 접근 사이의 시간 관계도 점검할 수 있다. 예를 들어 프로그램이 먼저 대량의 문서를 읽고, 그 요약을 외부 API로 보낸 뒤, 반환된 결과에 따라 새 파일을 만드는 경우가 그렇다. 이런 ‘읽기—추론—정렬—수집 계속’ 체인은 단일 악성 프롬프트보다 식별하기 쉽다.

로컬 모델을 사용하는 조직에도 같은 계층을 적용할 수 있다. 핵심은 모델 가중치가 ‘악성’인지 판별하는 것이 아니라, 어떤 프로그램이 모델을 호출했고, 무엇을 입력했으며, 출력이 이후 행동을 통제하는지 파악하는 데 있다.

Volta가 드러낸 공백에는 모델 런타임의 관측 가능성도 포함된다. 많은 엔드포인트 telemetry는 프로세스와 네트워크를 볼 수 있지만, 프롬프트, 모델 출력, 애플리케이션 행동 사이의 연결은 볼 수 없다.

편집자 생각

LLM이 공격 체인에 들어오면 전통적인 악성코드 탐지에는 골치 아픈 문제가 생긴다. 악성코드 자체가 반드시 더 복잡해지는 것은 아니지만, 새로 추가된 모델 호출이 네트워크, 파일 시스템, 작업 오케스트레이션을 가로지른다. 방어 측이 악성 프롬프트, 비정상 도메인, 고정 샘플만 찾으면 이런 결합 행동을 충분히 포착하기 어렵다.

제 판단에는 다음 탐지 도구들이 단일 특징보다 행동 연관성을 더 많이 활용할 것이다. API 요청, 디렉터리 순회, 자격증명 읽기, 모델 출력, 데이터 유출을 하나의 시간축에 놓아야 Volta의 실제 공격 방식에 더 가까워진다.

예전과 다른 점은 공격자가 Prompt를 작성할 수 있게 되었다는 사실이 아니다. 모델 출력이 공격 순서를 통제하기 시작했다는 점이다. 그 결과 악성코드에는 새로운 제어 평면이 생겼다.

아직 확인되지 않은 것은 Volta의 모델 호출이 주로 클라우드 API에서 일어나는지, 로컬 모델로도 가능한지다. 로컬화가 빠르게 따라온다면 enterprises는 외부 AI gateway 감사만으로 명확한 사각지대를 남기게 된다.

원문: Talos Intelligence:Appraisal by AI Model Driven Victim Prioritization in the Volta Infostealer

출처: https://blog.talosintelligence.com/appraisal-by-ai-model-driven-victim-prioritization-in-the-volta-infostealer/