HN 1위에 오른 PDF
9월 16일, 독립 연구자 jorgegarciaherrero.com이 자신의 사이트에 《Prompt like a butterfly, sting like a tracker》라는 제목의 PDF를 공개했다.
이 문서는 Hacker News 1위에 약 하루 동안 머물렀고, 최종적으로 252점 / 댓글 72개를 기록했다. HN에서 이 점수대는 '필독' 카테고리에 해당한다. 1위에 오르는 게시물은 연간 200개 남짓이며, 대부분 대기업 발표나 오픈소스 대형 프로젝트다. 개인 블로그에 올라간 PDF가 252점까지 올라간 것은很多人的 마음 한구석에 있던 불안을 정확히 짚었다는 뜻이다.
PDF 본문은 약 15분이면 읽을 수 있다. 핵심 결론은 한 문장으로 요약된다: 여러 AI 회사의 챗봇 제품이 사용자 대화 데이터를 광고 생태계로 유출하고 있으며, 이것은 버그가 아니라 설계 단계에서부터 존재하는 데이터 흐름이다.
추적이 일어나는 방식:프롬프트에 숨은 신호
논문의 핵심 주장은 '특정 AI 회사가 몰래 대화를 팔아넘겼다'가 아니다. 추적 사슬이 상상보다 깊이 내장되어 있다는 점이다. 구체적 경로는 세 단계로 나뉜다.
1단계:키워드 추출
사용자가 prompt를 입력하면, 서버 측에서 콘텐츠를 분석한다. 연구자가 추적한 결과, 일부 제품이 대화 맥락에서 키워드를 뽑아내 광고 bidding 시스템에 넣는 것이 확인됐다. 검색 엔진과 다른 점은, 검색 키워드는 고립되어 있지만 대화 키워드는 완전한 맥락을 담고 있다는 것이다.
예를 들어 ChatGPT에서 "위통증이 계속되는데 이번 달 회사体检가 다음 달로 밀려서 걱정이야"라고 입력했다고 하자. 키워드는 단순한 '위통'이 아니라 '위통 + 회사体检 + 불안'이다. 이 프로필은 어떤 쿠키보다 정밀하다.
2단계:사용자 프로필 보완
광고 SDK가 이 키워드를 기존 쿠키·기기 ID와 이어 붙여 완전한 사용자 프로필을 만든다. 연구자는 일부 AI 챗봇 제품에 서드파티 광고 SDK가 내장돼 있는 사실을 발견했다. 해당 SDK는 웹 버전에서는 차단되지만, 대화형 제품에서는 컨텍스트를 읽어낼 수 있었다.
3단계:제품 간 크로스 트래킹
일단 대화 데이터가 광고 생태계에 들어가면, 이후 추적은 대형 광고 네트워크의 다른 채널과 동일한 방식으로 진행된다. TikTok, Meta, Google에서 사용자에게 노출되는 광고는 이 새로운 채널의 키워드로 역방향 검증·가중치가 적용된다.
기술적으로 이 세 단계는 복잡하지 않다. 복잡한 건 그것이 사용자가 '프라이빗'이라고 믿는 공간에서 일어난다는 점이다.
영향 범위:한 회사가 아니라 업계 기본값
논문은 여러 주요 AI 챗봇 제품을 직접 테스트했다. 구체적인 제품명은 반복하지 않는다(원문 PDF를 직접 확인하면 된다). 다만 연구자의 결론은 매우 직설적이다. 이것은 단일 취약점이 아니라 시스템 수준의 데이터 흐름이다.
문제는 '어떤 회사가 나쁜 짓을 했느냐'가 아니다. 진짜 이슈는 다음과 같다.
- 이 구조는 업계의 기본값이다. 무료/저가 AI 제품에는 수익화 경로가 필요하기 때문이다.
- 개인정보처리방침에는 명시돼 있지만, 표현이 매우绕弯해서 일반 사용자는 이해하기 어렵다.
- 현재 규제에는 대화 데이터를 겨냥한 구체적인 조항이 없다.
특히 세 번째가 핵심이다. GDPR의 '정당한 이익' 조항은 민감 데이터 처리에 제약을 걸지만, 대부분의 AI 챗봇 제품은 대화 데이터를 '비민감'으로 분류한다. 논문은 일부 제품의 개인정보처리방침을 인용했는데, '당사는 서비스 개선을 위해 사용자의 입력을 활용할 수 있습니다' 같은 문구를 흔히 볼 수 있다. 글자 그대로 보면 틀린 말이 아니다. 하지만 서비스 개선의 목적이 무엇이냐? 많은 경우 광고 판매다.
왜 지금까지 드러나지 않았나:대화 데이터의 특수성
쿠키 추적은 이미 익숙한 주제다. uBlock 설치, 시크릿 창 사용, 대부분의 사람이 '어느 정도 됐다'고 느낀다.
하지만 대화 데이터와 쿠키는 차원이 다르다. 쿠키로 알 수 있는 것:
- 방문한 페이지
- 클릭한 링크
- 대략적인 관심사
대화로 알 수 있는 것:
- 사용자의 현재 실제 의도
- 감정 상태(불안, 분노, 슬픔)
- 개인 식별 정보(이름, 주소, 회사, 가족)
- 아직 일어나지 않은 행동(뭘 살 계획인지, 이직을 고민 중인지, 병력이 있는지)
연구자가 특별히 강조한 지점이 있다. 대화는 제품 안에서 처음으로 이루어지는 '깊은 자기 노출' 시나리오다. 기존 쿠키, 검색 키워드, 소셜 좋아요는 사용자가 능동적으로 내놓는 얕은 신호에 불과했다. 대화는 다르다. 사람들은 평소 누구에게도 말하지 않을 말을 AI 챗봇에게 꺼내놓는 경향이 있다.
따라서 일단 대화 데이터가 광고 생태계에 흘러들면, 누출로 인한 피해는 쿠키 시대보다 한 차원 더 심각해진다.
사용자가 할 수 있는 일:지금은 별다른 방법이 없다
솔직히 말하면, 줄 수 있는 조언은 매우 제한적이고根治 방안도 아니다.
개인정보처리방침 정독—하지만 대부분의 사람은 읽지 않고, 읽어도 이해하지 못하며, 이해해도 선택지가 없다(AI를 안 쓸 수도 없으니).
민감 정보 입력 자제—하지만 이미 AI를 사용하고 있다면 이 조언은 늦었다.
로컬 모델 검토—Llama, Qwen, Mistral 모두 괜찮은 온디바이스 옵션을 제공한다. 그러나 일반인은 설정할 줄 모르고, 설정해도 대형 모델은 돌아가지 않으며, 돌아가는 M2 Max / M3 Max 사용자도 소수다.
# Ollama로 로컬 Qwen 모델을 실행하는 최소 명령어
ollama run qwen2.5:14b
# 데이터는 완전한 로컬 처리, 대화 외부 전송 없음
# 단, Mac mini M2 이상 필요, 14B 모델은 16GB 메모리 요구
진정한根治을 위해서는 두 가지가 필요하다.
- 업체 투명화—대화 데이터가 어떤 서드파티로 흘러가는지 명확히 안내하고, '광고 학습/추적 비참여' 유료 플랜을 제공할 것
- 규제 개입—대화 데이터를 민감 데이터로 명확히 분류하고, 별도 동의 메커니즘을 요구할 것
첫 번째는 일부 업체가 이미 시행 중이다(Claude Pro, ChatGPT Plus는 광고 학습에 활용하지 않음을 명시). 그런데 무료 플랜은 어떻게 할 것인가? 이건 규제가 답해야 할 질문이다.
두 번째는, EU에서 움직임이 있을 수 있다. 미국 FTC도 몇 차례 회의를 열었다. 하지만 입법 속도는… 모두가 알고 있듯이 매우 느리다.
편집자의 생각
이 사건은 기존의 '데이터 프라이버시' 문제와 본질적으로 다르다. AI 챗봇은 처음으로 사용자가 자신의 가장 깊은 생각을 외부에 위탁하게 만든 제품 형태다.
검색, 이커머스, 소셜 미디어에서 사용자가 출력하는 것은 '시그널'—클릭, 좋아요, 검색 키워드—였다. 본질적으로 사용자는 콘텐츠를 능동적으로 발행하며, 누군가 보고 있다는 사실을 인지(혹은 어렴풋이 인지)한다.
대화는 다르다. 사용자가 AI에게 "요즘 잠을 못 자고,裁员당할까 걱정돼"라고 말할 때, 기본 전제는 '이건 사적인 대화다'이다. 이 전제가 체계적으로 깨지는 순간, 손상되는 것은 프라이버시 자체가 아니라 AI 업계 전체에 대한 사용자의 신뢰다.
내 판단은 세 가지다. 첫째, 규제는 오겠지만 제품 보급 속도보다 2~3년 늦을 가능성이 높다. EU가 대화 데이터 분류에서 먼저 움직일 수 있지만, 미국 연방 차원에서는 당분간 가능성이 낮다.
둘째, 유료 플랜이 새로운 표준이 될 것이다. Claude Pro, ChatGPT Plus의 '광고 학습 비활용' 약속은 향후 차별화卖点가 아니라 업계 기준으로 자리 잡을 것이다. 무료 플랜은 데이터 흐름을 명확히 표기하거나, '광고 지원'이라는 눈에 띄는 라벨을 의무로 부여받게 될 가능성이 크다.
셋째, 로컬 모델은 극客의 장난감에서大众需求로 전환될 것이다. 사용자가 대화 데이터의脆弱성을 인식하게 되면, Ollama, LM Studio, 온디바이스 추론에 대한 수요는 현재보다 10배 이상 증가할 것이다. Apple Silicon + 오픈소스 모델 조합이 첫 번째 파를 먹을 것이다.
확신이 가지 않는 부분도 있다. 논문은 단독 독립 연구자의 작업이며, 샘플 범위를 독립적으로 검증하기 어렵다. 대형 보안 팀이 이 연구를 재현해줄 수 있다면 결론의 신뢰도는 한 단계 올라갈 것이다. 하지만 일부 결론이修正되더라도 문제 자체의 심각성은 사라지지 않는다. 단지 범위의 크기만 달라질 뿐이다.
마지막으로 한 가지. 이 사건과 Anthropic, OpenAI 같은 헤드 업체의 관계에 대해, 논문에서 특정 추적 SDK 출처를 지목한 내용은 확인하지 못했다. 만약 헤드 업체가 주류 제품에 기본적으로 서드파티 광고 SDK를 연동하고 있다면, 이 문제는 논문이 묘사한 것보다 더 심각하다.
이후 재현 연구와 업체 측 대응을 계속 주시하겠다.