수학자들은 OpenAI에 미공개 논문을 맡기지 못한다
사건은 아주 작은 질문에서 시작됐다.
8월 22일, 드레스덴 공대 수학자 Andreas Thom이 Mathstodon에 올린 글은 이랬다. "여러분은 발표하지 않은 수학 증명을 ChatGPT에 입력할 수 있겠습니까?"
질문 자체는 단순하다. 그런데 어느 AI 회사도 정면으로 답하지 않으려는 회색 지점을 정확히 찔렀다.
48시간 안에 Mastodon 게시물이 Valerio Capraro에 의해 X로 옮겨졌고, Bluesky의 did:plc:ckaz32jwl6t2cno6fmuw2nhn가 이어받았으며, 마침내 HN 메인 페이지에 올랐다.
플랫폼을 넘나드는 확산 자체가 신호다. 특정 집단을 진심으로 불편하게 만든 질문이 아니면 이렇게 여러 번 옮겨지지는 않는다.
연구자들이 실제로 두려운 것
댓글에서 가장 많이 오간 이야기는 세 가지 범주의 구체적인 공포였다.
첫째, 발표하지 않은 결과가 학습 데이터가 된다.
정수론 분야 조교수가 남긴 글이 대표적이다. "GPT-5에게 증명 초안을 다듬어 달라고 시켰고, 다음 날 그 아이디어를 논문에 담아投稿했다. 만약 모델이 나보다 6개월 먼저 이 트릭을 배워서 흡수했다면, 논문이 공개되는那天 reviewer가 모델 출력에서 비슷한思路를 이미 봤다는 상황이 생기지 않겠는가?"
이건 피해망상이 아니다. AI 회사들의 입력 데이터 처리는 한때 완전한 블랙박스였다. API 호출은 기본적으로 남용 모니터링을 위해 30일간 보관되고, 기업 사용자는 ZDR(Zero Data Retention)을 신청할 수 있다. 하지만 ZDR의 적용 범위, 감사 단위, 위반 시 증거 수집 경로는 어느 AI 업체도 외부에 공개하지 않는다.
둘째, 추론 경로가 재현을 통해 새어나간다.
더 민감한 건 증명의 아이디어 자체다. 한 익명 댓글의 표현이 직설적이다. "결론은 다시 쓸 수 있지만, 그 reduction의 구성 과정은 2년에 걸쳐 만들어낸 것이다. 모델에 입력하는 순간, 발표하지 않은 열쇠를 내가 통제할 수 없는 시스템에 넘기는 셈이다."。
셋째, 철회가 어렵다.
GDPR 17조는 사용자에게 "잊혀질 권리"를 부여하지만, 전제는 데이터가 특정 미국 기업에 보유되고 있음을 입증할 수 있어야 한다. 추론 요청에 포함된 200줄짜리 LaTeX 초안 한 토막이 어떤 서버 로그에 아직 남아 있다는 사실을 어떻게 증명하고, 또 이미 삭제되었다는 사실을 또 어떻게 증명한단 말인가.
Valerio Capraro가 X에 이 글을 옮기며 단 평은 차분했다. "우리는 연구자의 커리어를 들고 AI 회사에 공짜 라벨링을 해주고 있는 셈이다."
OpenAI의 개인정보 약관은 실제로 무엇이라 적혀 있나
느낌에 의존하지 않기 위해 OpenAI의 현행 서비스 약관과 API 데이터 사용 정책을 직접 읽어봤다.
핵심 사실은 다음과 같다.
- 기본적으로 API 입력 데이터는 30일 후 삭제되며, 남용 및 보안 모니터링 목적으로만 사용된다.
- ZDR을 신청한 기업 사용자는 "제로 리텐션"을 받을 수 있지만, 이 경로는 학술 연구자를 대상으로 한 자가 신청을 열지 않는다. enterprise sales 절차를 거쳐야 한다.
- 약관 어디에도 "발표되지 않은 학술 성과"를 별도로 격리 처리하겠다는 약속은 없다.
- 학습 데이터 opt-out 스위치는 기본적으로 켜져 있지만, 이는 ChatGPT 웹/모바일에만 적용된다. API 호출 시 opt-out 역시 enterprise 계정이어야 기본生效한다.
즉, OpenAI의 약속 체계는 "소비자"와 "대기업" 두 단계로 설계되어 있고, 그 사이—독립 연구자, 박사후 연구원, 소규모 랩—는 텅 빈 지대다.
토론에서 계속 반복된 키워드가 있다. 신뢰할 수 있다(trustworthy)와 검증할 수 있다(verifiable)는 별개의 문제다. AI 회사는 데이터를 남용하지 않을 거라고 "믿으라"고 하지만, 연구자가 실행할 수 있는 감사 경로는 제공하지 않는다.
연구자들이 선택할 수 있는 우회로
이런 불확실성에 인질이 되고 싶지 않은 연구자라면, 지금 선택할 수 있는 실행 가능한 경로가 몇 가지 있다.
우회로 1: 로컬 오픈소스 모델 + 사설 배포
토론에서 가장 자주 언급된 방안이다. Qwen3(알리바바), DeepSeek-V3(深度求索) 같은 오픈소스 계열이 수학 추론 과제에서 이미 클로즈드 플래그십에 근접한 능력을 보여주며, 수학계 토론에서는 70B급 모델을 로컬에서 돌릴 수 있는 하드웨어를 최소 기준으로 자주 거론했다.
최소 실행 가능한 배포 스크립트 예시다(vLLM 기반, 모델과 파라미터는 하드웨어에 맞춰 조정).
pip install vllm
python -m vllm.entrypoints.openai.api_server \
--model Qwen/Qwen3-235B-A22B-Instruct \
--tensor-parallel-size 2 \
--gpu-memory-utilization 0.92 \
--host 127.0.0.1 \
--port 8000
이렇게 하면 모든 수학 증명 초안은 자기 GPU 서버 안에만 머물고, 어떤 제3자와도 접촉하지 않는다. 대가는 카드를 직접 사거나 H100이 달린 클라우드 인스턴스를 빌리는 비용이다.
우회로 2: API를 호출하되 opt-out + 명시적 프로토콜을 함께 적용
로컬 추론으로 요구를 충당할 수 없다면, 최소한 다음 세 가지는 챙겨야 한다.
- OpenAI의 Zero Data Retention을 신청한다(ChatGPT 웹이 아니라 enterprise 신청 경로).
- 모델에 보내기 전에 증명 초안을 비식별화한다. 변수명은 의미 없는 기호로 치환하고, 증명하려는 결론은 자리표시자로 대체한다.
- 논문의 Methods 섹션에 "XX 모델을 ZDR 모드로 사용해 데이터를 처리했다"고 명시해, reviewer와 학계에 데이터 처리 방식을 알린다.
import re
def sanitize_proof(proof: str) -> str:
# 수학 변수 a, b, c, ..., z 치환
proof = re.sub(r'\b([a-z])\b', lambda m: f'x{ord(m.group(1))-97}', proof)
# 결론을 암시하는 표현 치환
proof = re.sub(r'\b(qed|theorem|lemma)\b', '[REDACTED]', proof, flags=re.IGNORECASE)
return proof
raw = r"By lemma 3, a divides b. Therefore b = a * q. QED."
print(sanitize_proof(raw))
우회로 3: 클라우드 LLM을 아예 피하고 코드 보조 도구만 사용
수학이라는 분야에는 독특한 강점이 있다. "AI 보조"의 상당 부분은 Lean 4, Coq, Isabelle 같은 대화형 증명 보조 도구로 대체할 수 있다는 점이다. 이런 도구의 코드는 전적으로 로컬 환경에서 돌아가므로 데이터 유출 문제가 원천적으로 발생하지 않는다. Lean 4의 mathlib은 이미 학부 수준의 상당 부분을 커버하고 있으며, LLM과 결합해 tactic 제안을 받는 조합이 현재로서는 가장 안정적인 선택으로 꼽힌다.
편집자 소견
이 사건은 "AI가 과학 연구를 가속한다"는 주류 서사보다 보도할 가치가 있다. AI 회사가 연구자에게 모델을 "공짜 박사후"처럼 대해주길 바라지만, 그 신분에 걸맞은 책임은 아무도 지려 하지 않는다는 정교하게 유지된 가면을 정면으로 찢었기 때문이다.
내 판단으로는, 앞으로 12개월 안에 뚜렷한 "고민감 연구자 이탈"이 일어날 것이다. 주된 흐름은 학술 시나리오에 격리 채널을 명시적으로 열어둔 업체로 향하고, 부차적인 흐름은 로컬 오픈소스 배포로 향할 것이다. 수학, 암호학, 의약품 화학 세 분야의 헤드 랩이 가장 먼저表态할 가능성이 크다. 이들의 연구 성과는 일단泄露되면 재현 비용이 다른 학문보다 압도적으로 높기 때문이다.
이번 논의는 지난 1년간의 "AI 저작권 분쟁"과는 결이 다르다. 저작권 분쟁은 판결의 길이 있고賠償의 길이 있지만, 발표되지 않은 학술 성과의 "신뢰 비용"은 정량화할 수도, 추적할 수도 없다. AI 회사가 계속해서 ToS 안에서 독립 연구자에 대해 침묵을 유지한다면, 잃는 건 몇몇 수학자가 아니라 "AI for Science"라는 서사 자체의 정당성이다.