GitHub AI Agent로 Android 취약점 24개 발굴:오픈소스 보안 도구 실전 검증
8월 초 GitHub 블로그에 올라온 글 제목이 아주 직관적이다.「How we found 24 Android vulnerabilities using our open source AI security agent」.
한 줄 요약:GitHub가 자체 개발한 AI Agent를 AOSP(Android Open Source Project) 코드에 적용해 24개의 실제 취약점을 발견했고,코드를 전부 오픈소스로 공개해 누구나 재현할 수 있게 했다.
이 글은 Hacker News 메인에도 올라왔는데,댓글 반응은 대부분 "드디어 데모가 아니라 실전이다"라는 분위기였다.
내용을 단계별로 풀어보겠다.
24개 취약점은 어떻게 나왔나
장난감 예제가 아니라 Android 시스템 레벨의 진짜 감사다.
GitHub 보안팀의 목표는 명확했다.공개 벤치마크를 돌리는 게 아니라 AOSP 코드를 직접 대상으로 삼은 것.Agent를 몇 주 정도 돌렸더니 메모리 안전성,권한 우회,정보 유출 등 다양한 유형의 취약점 24개가 나왔다.
워크플로는 4단계다.
- 코드 인덱싱 —— Agent가 먼저 대상 코드베이스를 검색 가능한 단위로 쪼개서 인덱스를 만든다
- 패턴 추론 —— 취약점 모델을 기반으로 의심스러운 코드 패턴(버퍼 오버플로우,UAF,권한 검증 누락 등)을 추론한다
- PoC 생성 —— 의심 지점에 대해 테스트 입력이나 fuzz harness를 생성한다
- 사람 검토 —— 보안 연구원이 확인한 뒤 수정 패치를 제출한다
핵심은 4단계다.Agent는 CVE를 직접 발행하지 않고,"범위 좁히기 + 증거 제시"까지만 담당한다.
Agent의 핵심 설계:LLM이 사람처럼 감사하게
기존 SAST(Static Application Security Testing) 도구는 규칙에 의존한다.패턴 매칭 방식으로,`strcpy`를 보면 바로 경고를 띄운다.하지만 실제 취약점은 보통 함수와 모듈을 가로지르고,로직이 데이터 흐름 안에 숨어 있어서 놓치는 경우가 많다.
GitHub Agent의 설계 철학은 정반대다.LLM을 주니어 보안 연구원 역할을 시키는 것.
구체적으로는 어떻게 작동하나.Agent는 일련의 도구를 호출하도록 설계돼 있다.
# 단순화된 Agent 메인 루프
while not done:
thought = llm(f"현재 의심 지점:{state},시도한 내역:{history}")
action = llm(f"위 사고를 바탕으로 다음에 쓸 도구는?\n도구 목록:" +
"[code_search, read_file, run_fuzzer, write_poc]")
observation = execute(action)
state.update(observation)
핵심 도구는 다음과 같다.
- code_search:grep과 비슷하지만 의미 기반 검색 지원
- read_file:소스 코드 일부를 컨텍스트 윈도우 관리와 함께 읽음
- run_fuzzer:libFuzzer/AFL을 호출해 테스트 케이스 실행
- crash_triage:크래시를 dedup하고 우선순위 정렬
프롬프트 설계 세부 사항은 GitHub가 공개하지 않았지만,블로그에서 한 가지 힌트를 줬다.Agent에게 "여기에 버그가 있어?"라고 직접 묻는 게 아니라, "경험 많은 감사자"의 사고 과정을 흉내 내게 하라는 것.차이는 전자가 위협 모델을 먼저 세우고 그다음에 점검하는 반면,후자는 환각에 빠져 근거 없이 취약점을 신고하는 경우가 많다는 점이다.
오픈소스 저장소와 재현 비용
저장소 위치:블로그에서 안내한 곳은 GitHub 산하 Augments 프로젝트(글 제목의 "open source AI security agent"에 해당하는 도구)다.구체적인 저장소 이름은 GitHub Blog 원문에 링크가 있으니 여기서는 반복하지 않겠다.몇 달 뒤 링크가 깨져서 오해를 만드는 걸 피하기 위해서다.
로컬에서 돌리려면 다음이 필요하다.
- GPU:추론용으로 VRAM 16GB 이상(7B~13B 모델 기준).또는 OpenAI / Anthropic API를 직접 호출해도 됨
- API key:Claude / GPT 중 최소 하나
- 코드 대상:중형 C/C++ 프로젝트(Android 시스템 서비스 레이어는 대략 수십만 줄)
- 시간:단일 취약점 재현은 fuzzing 시간에 따라 몇 시간에서 하루 정도
한 가지 주의할 점이 있다.Agent의 "가치"는 "추론 비용 vs 인건비"의 균형에 있다.npm 패키지 하나만 스캔할 거라면 기존 SAST가 더 빠르다.Agent가 잘 맞는 자리는 코드량이 많고 취약점 패턴이 복잡해서 사람이 느린 속도로 감사해야 하는 경우다.
Burp Suite / CodeQL과의 비교
| 기준 | CodeQL | Burp Suite | AI Agent |
|---|---|---|---|
| 적용 시나리오 | 정적 분석,규칙 기반 | 웹 침투 테스트 | 시스템 레벨 감사,로직 취약점 |
| 속도 | 빠름(분 단위) | 인터랙티브 | 느림(시간~일 단위) |
| 미탐율 | 높음(규칙이 못 잡는 경우 많음) | 중간 | 낮음(추론 기반 커버리지) |
| 오탐율 | 중간 | 낮음 | 중~높음(LLM 환각) |
| 필요 역량 | QL 쿼리 작성 | 침투 테스트 경험 | 프롬프트 + 보안 배경 지식 |
AI Agent는 대체재가 아니라 보완재다.규칙 엔진이 못 잡는 로직 취약점은 Agent가 잘하고,Agent가 못 잡는 알려진 패턴은 규칙 엔진이 바로 찾아낸다.
GitHub의 이 접근에서 흥미로운 점은,"AI가 보안 연구원을 대체한다"라는 프레이밍이 아니라는 거다.대신 증폭기(amplifier)로 포지셔닝했다.한 명의 연구원이 이전에 다섯 명이 하던 일을 하게 만들어 준다는 이야기다.
판단:이번 케이스가 다른 점
예전에도 AI로 취약점을 찾으려는 시도는 있었다.Google의 OSS-Fuzz는 LLM으로 seed를 생성했고,Facebook(현 Meta)은 CVE-Bench 평가 프레임워크를 만들었으며,학계 논문도 수두룩하다.
하지만 이번에는 세 가지가 동시에 갖춰졌다.오픈소스 + 실제 CVE + 대형 기업 보증.이 조합이 처음이다.
보안 업계에 대한 의미는 두 가지로 본다.
단기(1~2년):중소기업들이 내부 감사용으로 비슷한 도구를 쓰기 시작할 것이다.비용 구조가 바뀐다.예전에는 보안 연구원 한 명 연봉이 5,000만 원 수준이었는데,지금은 Agent + 사람 한 명으로 3,000만 원이면 더 많은 산출물을 낼 수 있다.대형 보안 컨설팅 회사의 주니어 포지션은 위축될 가능성이 크다.
장기(3~5년):오픈소스 생태계에 "수직화한 Agent"가 10~20개 등장할 가능성이 높다.암호학 감사,스마트 컨트랙트 감사,바이너리 리버스 엔지니어링 같은 특정 영역 전용 도구다.LLM 추론 능력이 계속 올라가면,취약점 발견의 한계 비용이 0에 수렴하게 된다.
하나의 반(反)합의 관찰:이 흐름은 오픈소스 생태계에 호재다.예전에는 중소 프로젝트 메인테이너가 보안 감사를 할 여력이 없었는데,이제 Agent로 한 번 돌려서라도低级 취약점을 정리할 수 있다.AOSP 같은 대형 프로젝트는 오히려 더 큰 수혜를 본다.24개 취약점 중 대부분이 모든 다운스트림 OEM에 영향을 줄 가능성이 높기 때문이다.
불확실성:GitHub가 취약점 세부 사항과 재현 절차 전체를 공개하지 않아서,24개 CVE의 심각도 분포를 독립적으로 검증할 수 없다.절반 이상이 "저위험/정보 유출" 수준이면 이 사건의 파괴력 평가는 좀 깎여내려야 한다.NVD에 CVE 기록이 모두 공개된 다음에 결론을 내리는 편이 안전하다.
출처: