AI Agent는 취약점 스캔 범위를 확대할 수 있지만, coordinated disclosure까지 자동으로 진행하지는 않는다. OpenAI의 coordinated-disclosure 페이지를 바탕으로 검증, 영향 평가, 패치 배포, 공개 시점을 어떻게 운영할 수 있는지 살펴본다.
OpenAI는 최근 Coordinated Disclosure of Critical Vulnerabilities를 공개했다. 이 페이지에서 다루는 핵심은 특정 모델이 몇 개의 취약점을 찾았느냐가 아니다. Agent가 문제를 발견한 뒤 누가 검증하고, 누가 영향을 평가하며, 패치를 언제 배포하고, 언제 공개할 것인가다.
‘AI가 취약점을 발굴할 수 있는가’보다 이 과정이 더 중요하다.
취약점 발견은 Agent의 업무가 끝나지 않는다
传统적인 취약점 대응은 보통 하나의 티켓을 중심으로 진행된다. 연구자가 보고서를 제출하면厂商가 재현하고, 유지 관리자가 패치하며, 보안 팀이 회귀 테스트를 수행한 뒤 공지를 게재한다.
Agent는 입력 규모를 바꾼다.
코드, 의존성, 설정, 클라우드 자원을 지속적으로 검사할 수 있으며, 같은 작업을 훨씬 많은 대상에 적용할 수도 있다.
- 여러 저장소와 버전
- 여러 클라우드 서비스의 권한 경계
- 오픈소스 의존성의 전이 관계
- 로그인, 결제, 파일 업로드 등 업무 경로
그 결과 취약점 발견의 단위는 ‘보고서 한 건’에서 ‘후보 취약점 한 묶음’으로 바뀔 수 있다.
그러나 보고서 수가 늘어난다고 대응 속도까지 자동으로 빨라지지는 않는다.
보안 팀은 여전히 취약점이 실제로 존재하는지, 영향 범위가 어느 정도인지, 패치가 가능한지, 기존 자산이 노출되어 있는지를 확인해야 한다. Agent는 탐색 범위를 넓히고, 사람에 의한 프로세스가 발견된 문제를 유효한 수정으로 전환한다.
coordinated-disclosure 프로젝트가 풀어야 할 문제도 바로 이 지점이다. 산발적인 발견 결과를 하나의 공통 프로세스에 연결하고, 각 Agent가 제각각 보고서를 제출하는 방식을 피해야 한다.
모델 능력보다 어려운厂商 간 조정
취약점이 발견되어 공개되려면 여러 단계의 사람에 의한 판단을 거쳐야 한다.
1. 검증
Agent는 비정상 입력을 취약점으로 오인할 수 있고, 표면적인 증상만 발견할 수도 있다.
厂商는 다음 사항을 확인해야 한다.
- 안정적으로 재현할 수 있는지
- 특수 권한이 필요한지
- 기본 설정에 영향을 받는지
- 이미 공개된 workaround가 있는지
- 보고서에 기재된 버전 범위가 정확한지
2. 영향 평가
‘임의 코드를 실행할 수 있다’와 ‘공개 페이지를 읽을 수 있다’는 같은 수준이 아니다.
영향 판단에는 배포 환경도 함께 고려해야 한다. 동일한 취약점이 내부 개발 환경에서는 설정 문제일 수 있지만, 운영 중인 클라우드 환경에서는 횡적 이동, 자격 증명 유출, 데이터 접근으로 이어질 수 있다.
3. 패치 배포
코드를 수정했다고 해서 취약점이 사라지는 것은 아니다.
유지 관리자는 패치를 병합하고, 사용자는 업그레이드해야 한다. 클라우드 플랫폼은 이미지를 다시 배포해야 하며, 의존 관계를 사용하는的一方도 애플리케이션을 다시 빌드해야 한다. 이 과정은 며칠 또는 몇 주가 걸릴 수 있다.
4. 공개 시점
너무 일찍 공개하면 공격자에게 시험할 기회를 준다. 반대로 너무 늦게 공개하면 피해 당사자의 수정 의지가 약해진다.
따라서 공개는 ‘보고서가 생성되면 자동으로 게시되는 작업’이 아니다. 厂商, 유지 관리자, 피해 조직, 보안 연구자 사이의节奏를 조정해야 한다.
AI가 작업을 앞당겼다고 해서 사람에 의한 프로세스가 병목이 될 가능성은 오히려 커졌다. Agent는 몇 분 안에 수십 건의 후보 취약점을 만들 수 있지만, 보안 팀이 고위험 보고서 하나를 검증하는 데는 며칠이 걸릴 수 있다.
Patch the Planet의 워크플로
OpenAI 페이지에서는 Patch the Planet을 언급한다. 이 프로젝트의 댓글 진입점은 patchtheplanet.org다.
제공된 페이지 정보를 보면, 이 프로젝트는 단순한 취약점 스캐너라기보다 coordinated-disclosure 플랫폼에 가깝다. 핵심은 ‘모델이 무엇을 발견했느냐’가 아니라 여러 참여자를 하나의 대응 체계에 연결하는 방식이다.
Agent 보안 이벤트를 전달하는 분배 계층으로 이해할 수 있다.
Agent가 후보 취약점 발견
↓
중복 제거와 초기 분류
↓
해당 厂商 또는 프로젝트 유지 관리자에게 전송
↓
재현 조건과 영향 범위 확인
↓
패치, 테스트, 공개 시점 조정
↓
조치 상태 기록 및 공개 내용 작성
여기에는 세 종류의 참여자가 있다.
Agent는 탐지 능력을 제공한다.
코드를 실행하고 입력을 구성하며 로그를 분석할 수 있고, 여러 대상을 동시에 검사할 수도 있다.
클라우드 인프라는 검증 환경을 제공한다.
취약점이 성립하는지 확인하려면 실제 운영 환경 또는 운영과 최대한 유사한 구성이 필요하다. 임시 계정, 네트워크 정책, 컨테이너 이미지, 비밀 키 격리는 ‘모델에게 코드를 보여 주는’ 것보다 훨씬 복잡하다.
오픈소스 프로젝트는 유지 관리 진입점을 제공한다.
취약점이 GitHub 프로젝트, 컨테이너 이미지, 인프라 구성요소에 있다면 수정 책임이 제출자, 배포자, 하위 사용자 사이에 분산될 수 있다.
플랫폼의 역할은 모든 취약점을 자동으로 수정하는 것이 아니라, 인계 과정에서 정보가 손실되는 것을 줄이는 것이다.
Agent, 클라우드 인프라, 오픈소스 프로젝트가 연결되면 최소한 다음 항목을 공유해야 한다.
- 취약점 요약
- 최소 재현 절차
- 영향받는 버전
- 환경 요구사항
- 현재 상태
- 厂商 담당자
- 공개 예정 시각
필드가 누락되면 조정은 다시 이메일과 비공식 대화로 돌아간다.
Hacker News의 논쟁 신호
원고에서는 이 프로젝트가 Hacker News 프런트 페이지에 제출되어 158점과 댓글 95개를 받았던 것으로 언급했다. 현재 제공된 원자료에는 OpenAI 페이지만 있고 Hacker News 링크나 페이지 기록은 없다. 따라서 검증되지 않은 정보를 사실처럼 다루지 않도록 이 수치와 관련 판단은 삭제했다.
개발자가 일반적으로关心하는 것은 ‘Agent의 취약점 탐지 정확도가 얼마나 되는가’만은 아니다. 다음 질문도 함께 제기된다.
- 厂商에 수정에 필요한 자원이 충분한지
- 소규모 오픈소스 프로젝트가 보고서에 압도당하지 않는지
- 취약점 공격 가능 기간을 누가 계산하는지
- AI가 생성한 보고서에 사람에 의한 검토가 이루어졌는지
- 수정이 늦어질 경우 누가 책임을 지는지
- 공개 기록이 충분한 투명성을 갖는지
혼동하기 쉬운 질문 중 하나는 ‘Agent가 잘못된 보고서를 제출했다면 Agent가 취약점 결과까지 책임져야 하는가’다.
이를 단순히 한쪽에 귀속시킬 수는 없다.
발견자, 검증자, 배포자, 자산 소유자는 서로 다른 책임을 진다. Agent는 발견 규모를 확대할 수 있지만, 확인되지 않은 상태에서 공격 출처로 취급되어서는 안 되며, ‘자동 생성’이라는 이유로 검증을 생략해서도 안 된다.
Patch the Planet이 논쟁을 줄일 수 있는지는 발견 건수만 집계하는 대신 완전한 조치 기록을 남기는지에 달려 있다.
중국 보안 팀의 현실적 적용 방식
기업은 먼저 경량 프로세스를 구축한 뒤 Agent를 연결하는 방식이 낫다.
1. 취약점 검증부터 시작한다
Agent의 출력물을 곧바로 CVE로 취급해서는 안 된다. 다음 세 단계로 구분할 수 있다.
candidate: 모델이 이상 징후가 있다고 판단한 상태confirmed: 보안 담당자가 재현을 완료한 상태accepted: 厂商 또는 유지 관리자가 영향이 있음을 확인한 상태
confirmed 단계 이후에만 공식 취약점 티켓으로 등록한다.
2. 자산 우선순위에 따라 정렬한다
동일한 취약점이라도 시스템별 위험도는 다르다. 최소한 다음 항목을 기록하는 것이 좋다.
- 인터넷에 노출되어 있는지
- 민감한 데이터를 처리하는지
- 고권한 자격 증명을 보유하는지
- 핵심 업무에 속하는지
- 악용 가능한 상위·하위 의존 관계가 있는지
보고서 수가 아니라 ‘인터넷에서 접근 가능 + 고권한 + 사용 가능한 workaround 없음’ 조합을 우선 수정한다.
3. 厂商 소통 템플릿을 만든다
각 보고서에는 다음 내용이 포함되어야 한다.
제목: 구성요소명 / 취약점 유형 / 영향받는 버전
재현 조건:
- 환경:
- 권한:
- 입력:
- 실제 결과:
- 예상 결과:
영향 평가:
- 데이터 접근:
- 권한 경계:
- 악용前提条件:
제안:
- 임시 완화 조치:
- 수정 버전:
- 회귀 테스트重点:
템플릿의 목적은 문장을美观하게 만드는 것이 아니라 반복 확인을 줄이는 것이다.
4. 패치 검증에 프로세스를 포함한다
패치를上线하기 전 최소한 다음 항목을 확인한다.
- 기존 재현 경로가 더 이상 성공하지 않는지
- 대체 경로로 패치를 우회할 수 없는지
- 이미지, 의존성, 설정이 모두 갱신되었는지
- 로그와 경보가 비정상 행위로 우회되지 않는지
Agent는 검증 테스트 케이스를 생성할 수 있지만, ‘테스트 통과’를 곧바로 ‘운영 환경 안전’으로 등치해서는 안 된다.
5. 자동 수정을 롤백 가능한 범위로 제한한다
위험이 낮고 변경 범위가 명확한 설정 수정은 자동화 시스템에 맡길 수 있다.
권한 확대, 데이터 마이그레이션, 핵심 네트워크 정책 변경, 운영 배포는 사람에 의한 승인과 롤백 방식을 유지해야 한다.
Agent는 자동 수정 버튼이 아니다. 처리량이 많은 이벤트 생성기에 가깝고, 실제 수정 동작은 감사 가능해야 한다.
편집자 관점
이러한 체계의 중요성은 특정 Agent가 더强大하다는 것을 증명하는 데 있지 않다. 취약점 대응이 대량 생산에 가까워졌다는 데 있다. Agent는 스캔 범위를 넓힐 수 있지만, 발견된 보고서는 여전히 재현, 영향 판단, 패치 배포, 공개 조정을 거쳐야 한다. Patch the Planet이 단순히 더 많은 취약점을 모으는 데서 끝난다면 그 가치는 제한적이다. 상태, 책임자, 공개 시각을 명확히 기록해 발견을 수정으로 전환해야 한다.
이번 사례의 차이는 조정 대상이 厂商 내부 팀을 넘어 클라우드 플랫폼, 오픈소스 유지 관리자, Agent 운영자까지 포함된다는 점이다. 모델 능력은 복제할 수 있지만, 공개 제도와 유지 관리자의 수정 능력은 모델만으로 해결할 수 없다. 기업이 단기간에 고위험 취약점의 공개를 Agent에 직접 맡길 가능성은 낮다. Agent는 선별, 재현 절차 보완, 회귀 테스트 생성에 집중하고, 영향이 큰 이벤트는 사람이 처리할 것으로 보인다. 다만这套 체계가 소규모 오픈소스 프로젝트까지 포괄할 수 있는지는 아직 알 수 없다. 취약점 발견 속도가 유지 관리자의 처리 능력을 장기적으로 앞서는다면, 조정 플랫폼 자체가 병목이 될 수 있다.
출처: