실전

Gemini 수동 라벨링 논란: Drive와 이메일은 어디로 갔나

GitHub 저장소가 Gemini의 Drive 파일과 이메일 수동 라벨링을 폭로했지만, 공개된 증거만으로는 Google이 해당 내용을 외부에 제공했거나 모델 학습에 사용했다고 단정하기 어렵다. 확인 가능한 사실과 아직 입증되지 않은 주장, 데이터 처리 여부를 검증하는 방법을 정리했다.

글자 크기

GitHub 저장소가 Google Gemini가 사용자의 개인 Google Drive 파일과 이메일을 수동 라벨러에게 전달한다고 주장했다. 저장소는 화면 캡처와 데이터 라우팅 단서를 제시했지만, Google이 Drive와 Gmail 콘텐츠를 외부 모델 학습에 사용했다는 사실까지 증명할 수준은 아니다. 공개된 근거의 한계를 정리하고 실제로 확인할 수 있는 경로를 살펴본다.

Gemini 수동 라벨링 논란: Drive와 이메일은 어디로 갔나

GitHub 저장소는 Google Gemini가 사용자의 개인 Google Drive 파일과 이메일을 라우팅해 수동 라벨러에게 전달한다고 주장한다.

이|Claw|은 Hacker News 첫 화면에서 405점과 103개 댓글을 얻었다. 논쟁은 곧바로 ‘Gemini가 제대로 작동하는가’를 넘어 다음과 같은 구체적인 질문으로 옮겨 갔다. 개인 파일이 모델 서비스에 들어간 뒤 어떤 시스템과 사람을 거치고, 어떤 공개되지 않은 백그라운드 작업을 거치는가.

먼저 결론부터 말하면, 현재 공개된 자료는 주로 gemini_files 저장소에 있다. 이 저장소에는 여러 화면 캡처, 프롬프트, 라우팅 단서가 포함돼 있지만, Google이 Drive와 Gmail 콘텐츠를 외부 모델 학습에 사용했다는 주장을 단독으로 입증하기에는 부족하다. 보다 신중한 판단은 이렇다. 수동 검토가 존재할 가능성은 있지만, 데이터가 어디로 흘렀고 얼마나 보존됐으며 사용자가 동의했는지는 여전히 완전한 증거가 없다.

원 논쟁은 다음 두 경로에서 확인할 수 있다.

저장소의 주장이 무엇인지

gemini_files 저장소의 핵심 주장은 직접적이다. Gemini는 사용자 데이터를 처리하면서 개인 Google Drive 파일과 이메일을 수동 라벨링 과정에 넣는다.

저장소가 설명한 데이터 입력 경로에는 Google Drive, Gemini, 개인 파일과 이메일 등 민감도가 높은 콘텐츠가 포함된다. 이 내용은 Drive와 Gemini 관련争议 제목과 요약과 일치한다.

저장소는 또한 여러 사용자 측 관찰 사례를 제시했다. 예를 들어 파일이나 이메일이 식별돼 특정 처리 과정에 포함됐다는 내용이다. 관련 인터페이스에서도 안내 문구가 나타났다고�다. 저장소 작성자는 여러 인터페이스 상태를 하나의 흐름으로 연결하려 했다. 사용자 콘텐츠가 Gemini에 들어가고, Drive나 Gmail이 접근 가능한 데이터 소스로 사용된 뒤 수동 개입의 흔적이 나타났다는 것이다.

여기서는 세 종류의 주장을 구분해야 한다.

첫째, 저장소 작성자의 직접적인 주장이다.

저장소는 Google Gemini가 사용자의 개인 Drive 파일과 이메일을 라우팅해 수동 라벨러에게 전달한다고 주장한다. 이는 피의 deference 대상이 응답해야 할 사실 진술이지, 커뮤니티가 임의로 덧붙인 결론이 아니다.

둘째, 화면 캡처가 직접 뒷받침하는 관찰이다.

화면 캡처는 어떤 인터페이스에 특정 문구, 상태 또는 과정 안내가 등장했다는 사실을 보여줄 수 있다. 여기에는 교차 검증에 활용할 수 있는 계정 상태, 시간, 파일명 또는 프롬프트도 포함될 수 있다.

셋째, 커뮤니티의 추측이다.

예를 들어 수동 라벨러가 파일 전체를 확인했는지, 라벨링 결과가 학습 데이터에 포함됐는지, 절차를 Google 임직원이 수행했는지, 특정 안내 문구가 특정 기능이 아니라 범용 백엔드 구조를 의미하는지가 여기에 해당한다. 사용자 인터페이스는 보통 이런 내부 필드를 공개하지 않는다.

따라서 ‘인터페이스에 수동 검토와 관련된 안내가 나타났다’는 사실만으로 ‘외부 업체가 모든 이메일을 가져가 새 모델을 학습했다’고 결론 내릴 수는 없다. 그 사이에는 데이터 최소화, 샘플링, 작업 라우팅, 권한 통제, 보존 정책이 존재한다.

현재 공개된 단서는 여전히 GitHub 저장소 하나에 국한된다. 수동 라벨링의 전체 처리 경로는 원자료와 Google의 공식 약관을 교차 검증해야 확인할 수 있다.

수동 폴백이 곧 데이터 유출은 아니다

‘수동 라벨링’과 ‘데이터 유출’은 같은 의미가 아니다.

LLM 서비스에서 사람이 참여하는 과정은 서로 다른 목적을 수행할 수 있다.

첫째는 품질 평가다. 라벨러는 모델 출력에 점수를 매기거나 분류 결과를 수정하거나, 답변이 안전 규칙을 지켰는지 판단한다. 이런 데이터는 제품 품질 향상에 쓰이는 경우가 많지만 접근 범위는 제한돼야 한다.

둘째는 고위험 콘텐츠에 대한 폴백 처리다. 의료, 법률, 재무 또는 자해가 의심되는 요청은 수동 검토를 거친 뒤 결과가 반환될 수 있다. 사용자가 전체 과정을 볼 수 없다고 해서 해당 콘텐츠가 모델 학습에 사용됐다는 뜻은 아니다.

셋째는 모델 학습 또는 파인튜닝이다. 라벨러가 입력과 이상적인 출력을 정리해 학습 샘플을 만든다. 모델의 장기적인 행동에 가장 직접적인 영향을 미치는 활용 방식이다.

넷째는 규정 준수 및 악용 조사가 있다. 시스템이 비정상적인 트래픽, 대량 내보내기 또는违规 사용을 발견하면 제한된 데이터를 검토 담당자에게 전달할 수 있다.

이 네 가지 상황의 핵심 차이는 단순히 ‘누가 봤느냐’만이 아니다. 무엇을얼마나 오래 보았고, 그 결과를 무엇에 사용했는지도 포함된다.

책임 있는 평가 절차는 보통 비식별 계정, 샘플 파일, 등급별 권한, 감사 로그를 최대한 활용한다. 개인 Drive 파일, 계약서, 이력서와 이메일은 기본적으로 라벨러에게 일괄 제공되기 적합하지 않다. Google이 실제로 이런 절차를 采用한다면 사용자는 적용 조건을 알아야 한다.

반대로 공개 설명이 없다는 이유만으로 악용을 입증할 수도 없다. 상용 시스템의 내부 구현은 일반적인 SaaS 기능과 마찬가지로 도움말에 전부 담기지 않는다. 문제는 개인 커뮤니케이션 콘텐츠의 처리가 포괄적인 개인정보보호 정책 한 줄로만 설명돼서는 안 된다는 점이다.

Drive와 이메일이 더 민감한 이유

공개 웹페이지는 모델 기업이 가장 쉽게 활용하는 데이터 소스 중 하나다. 웹사이트 콘텐츠는 애초에 공개 접근을 전제로 하며, 저작권 문제가 있더라도 위험의 범위와 양상을 비교적 명확히 기술할 수 있다.

Drive는 다르다.

비공개 인수资料, 회사 로드맵, 재무제표, 신분증, 소스 코드, 고객 목록이 들어 있을 수 있다. Gemini가 Drive에 연결되면 사용자가 마주하는 것은 ‘이 텍스트를 모델에 넘겼다’뿐 아니라 ‘모델이 권한을 따라 더 많은 파일을 읽을 수 있다’는 문제다.

이메일이 더 민감하다. Gmail에는 면접 초대, 오퍼, 계약서, 인증 코드, 의료 기록, 연인 간 통신, 상사의 불만이 들어 있을 수 있다. 한 번의 요약 요청背后에는 검색 시스템이 먼저 대량의 제목, 본문, 첨부파일과 연락처를 훑을 수 있다.

이력서와 계약서는 가시성이 낮지만 영향은 큰 데이터의 전형이다. 암호가 들어 있지 않더라도 신원 도용, 사기, 정밀 채용 스크리닝 또는 상업 협상에 악용될 수 있다.

이런 위험에는 시간차에서도bert된다.

사용자는 대화창에서 질의를 끝내고 몇 초 뒤 답을 받는다. 하지만 백그라운드에서는 검색, 정렬, 필터링, 모델 추론, 콘텐츠 안전 처리와 수동 검토가 진행될 수 있다. 데이터가 어느 단계에서 복제됐는지, 캐시됐는지, 누가 접근할 수 있는지는 결과 화면에 표시되지 않는다.

따라서 라벨링 여부보다 물어야 할 것은 더 많다. 고민감 데이터가 이 처리 경로에 들어갈 권한이 있는가다.

405점 논쟁이 남긴 질문들

이 링크는 Hacker News 첫 화면에서 405점과 103개 댓글을 얻었다. 논쟁의 규모만 보면 개발자들이 데이터 경계에 대해 품은 우려는 소수 의견이 아니다.

댓글에는 몇 가지 질문이 반복해서 등장했다.

동의 절차는 무엇인가?

수동 검토가 제품 품질 향상이나 모델 학습에 속한다면, 사용자는 기본 동의하는지, 자발적으로 선택하는지, 특정 상황에서 통보받는지 알아야 한다. 특정 Drive 파일을 거부해 이후 과정에 포함되지 않도록 할 수 있는가.

데이터는 얼마나 보존되는가?

임시 검토, 품질 검사 샘플링, 학습 데이터 구축, 사건 조사에는 서로 다른 보존 기간이 적용될 수 있다. ‘데이터를 보관할 수 있다’만으로는 부족하다. 수동 검토 뒤 만든 사본이 언제 삭제되며 학습 샘플로 전환될 수 있는지 사용자가 알아야 한다.

라벨러는 어떤 권한을 갖는가?

라벨러가 이메일 전문과 첨부파일을 읽을 수 있다면, 위험은 ‘신뢰할 수 있는 직원’이라는 말만으로 요약할 수 없다. Google 내부 직원인지, 계약업체인지, 외부 플랫폼 소속인지, 데이터를 내려받을 수 있는지, 다른 사용자의 맥락까지 볼 수 있는지도 확인해야 한다.

사용자가 철회할 수 있는가?

어떤 파일이 나중에 평가나 학습에 사용됐다면, 원본 파일을 삭제한 뒤 사본과 파생 데이터도 함께 삭제되는가. 관리자는 특정 파일이 언제 처리됐는지 조회할 수 있는가.

405점은 이 링크가 널리 퍼지고 논쟁을 만들었다는 뜻이고, 103개 댓글은 세부 사항에 이견이 있다는 뜻이다. 하지만 논쟁의 인기도 증거는 아니다. 사용자가 답을 원한다는 사실만 보여줄 뿐, Google의 공식 설명을 대신할 수는 없다.

실제로 확인해야 할 것은 처리 기록이다

저장소 화면 캡처가 ‘무엇을 입증하는가’를 다투는 대신, 검증 가능한 경로를 따라 확인하는 편이 낫다.

1. Gemini 활동 기록 확인

먼저 개인 계정의 Gemini 활동 기록, Drive 활동 기록, Gmail 관련 활동을 살펴본다. 핵심은 ‘수동 라벨링’이라고 적힌 기록을 찾는 것이 아니다. 백그라운드 절차가 반드시 그렇게 표시되지는 않는다. 다음 사항을 확인해야 한다.

  • 비정상적인 대량 접근이 있었는지
  • 사용자가 한 번도 열지 않은 파일이 등장했는지
  • 파일명, 유형, 시간이 특정 작업과 대응하는지
  • 파일을 삭제하거나 이동한 뒤에도 활동 기록에 관련 항목이 남아 있는지

2. Workspace 관리자 로그 확인

회사 계정이라면 관리자 로그가 더 유용하다. Google Workspace Admin Audit는 보통 사용자, 이벤트, 애플리케이션, 시간, 대상 리소스 등의 필드를 제공한다. 관리자는 Drive, Gmail, Gemini 및 관련 관리자 이벤트에서 볼 수 있는 기록을 점검해야 한다.

로그에 어떤 사건이 나타나지 않았다는 사실이 곧 사건이 없었다는 뜻은 아니다. 로그가 모든 백그라운드 작업을 포괄하지 않을 수 있고, 요금제, 지역 또는 이벤트 유형에 따라 표시 범위가 제한될 수도 있다. 하지만 비정상 접근과 추적 가능한 이벤트는 가능한 한 기록을 남겨야 한다.

3. 데이터 처리 약관 대조

범용 Google 개인정보보호 정책만 보지 말고 다음 문서도 함께 확인해야 한다.

  • Gemini 서비스 안내
  • Workspace Gemini 관리자 문서
  • 생성형 AI 개인정보 보호 안내
  • 사용자 데이터를 서비스 개선에 사용하는지에 관한 조항
  • 적용되는 데이터 처리 부속서와 지역별 조항

찾아야 할 키워드에는 human review, human annotators, improvement, training, retention, customer data, opt out이 포함된다. 계정 유형, 지역, 서비스 버전에 따라 약관이 다를 수 있다.

4. 저장소의 원자료 재검증

gemini_files 저장소로 돌아가 화면 캡처에 시간, 계정 상태, 파일명과 재현 가능한 절차가 포함돼 있는지 확인한다.所谓 프롬프트가 실제 인터페이스에서 나왔는지, 소정의 라우팅을 같은 계정으로 다시 발생시킬 수 있는지 검증해야 한다.

더 엄격한 검증 방법은 테스트 파일의 콘텐츠 해시와 접근 시간을 기록한 뒤, 민감한 정보가 없는 실험 계정에서 재현하고 Drive 활동 기록과 교차 비교하는 것이다. 실제 계약서나 개인 이메일을 공개 시연에 사용하면 안 된다.

5. 공식 답변을 요구할 질문 만들기

현재 공개된 자료만으로 검증이 완결되지 않았다면, 다음과 같은 타당한 질문을 공식에 요구해야 한다.

  • 어떤 종류의 콘텐츠가 수동 검토에 들어가는가
  • 라벨러는 내부 직원인가 계약업체인가
  • 라벨러는 원문과 첨부파일을 볼 수 있는가
  • 데이터가 학습에 사용되는가
  • 보존 기간과 삭제 메커니즘은 무엇인가
  • Workspace 관리자가 관련 감사 기록을 조회하거나 내보낼 수 있는가

이러한 질문은 ‘Gemini가 데이터를 몰래 가져가는가’보다 정확하며, 감사 가능한 답변을 얻기 쉽다.

편집자 관점

이번 논란을 경계할 만한 이유는 저장소 화면 캡처가 이미 Google의 이메일 유출을 입증했기 때문이 아니다. LLM 서비스에서 가장 잘 보이지 않는 계층인 수동 검토가 전면에 드러났기 때문이다. 모델 답변이 틀리면 다시 시도할 수 있지만, 백그라운드 데이터를 누가 봤는지는 사실상 회복하기 어렵다. Drive 파일과 Gmail 이메일에는 계약서, 이력서, 인증 코드와 개인 통신이 들어 있는 경우가 많아, 권한 설정이 조금만 잘못돼도 일반적인 모델 출력 오류보다 훨씬 큰 영향을 준다.

제 판단은 대규모 평가와 고위험 콘텐츠 폴백에 수동 검토가 사용됐을 가능성에 leans한다. 현재로서는 이런 콘텐츠가 체계적으로 외부 라벨러에게 전달됐다는 증거도, 라벨링 결과가 학습 데이터에 들어갔다다는 증거도 없다. 과거의 개인정보 보호 논란과 달리, 이번에는 ‘데이터가 학습에 사용되는가’만 묻는 대신 누가 어떤 작업에서 어떤 콘텐츠에 접근했는지, 얼마나 보존됐는지, 철회할 수 있는지 항목별로 확인해야 한다. 앞으로 데이터 감사 가능성이 Workspace AI 도입과 구매의 핵심 조건으로 자리 잡을 것으로 본다. 다만 Google이 이미 이런 절차를 포괄하는 완전한 관리자 이벤트 모델을 갖추고 있는지는 여전히 확인되지 않았다.

출처

출처: https://github.com/thisisme6598/gemini_files/