무슨 일이 있었나
Science지가 최근 《How An AI math breakthrough ignited a controversy》라는 제목의 기획 기사를 내었다. AI 시스템이 고전적인 수학 난제에서 결과를 뽑아냈고, 이 소식이 Hacker News 메인에 올라가며 193점, 댓글 199개를 기록한다.
HN 토론: news.ycombinator.com/item?id=49624163
공학 쪽 사람들은 이 정도야 익숙하다 — AI가 또다시 인간이 잘하던 일을 해냈다. 그런데 수학 커뮤니티는 곧바로 두 진영으로 갈라졌고, 트위터·Mastodon·arXiv 댓글창에서 거의 한 주 내내 다툼이 이어졌다.
수학적 디테일은 여기서 다루지 않는다. 분석 자료가 널렸다. 흥미로운 건 그 뒤에 남은 논쟁이다.
무엇을 두고 싸우는가
쟁점은 AI가 문제를 풀었느냐가 아니다. 방법론을 두고 싸운다.
그 AI 시스템은 본질적으로 '탐색 + 휴리스틱' 조합이다. 거대한 해 공간에서 무차별로 시도하고, 똑똑한 가지치기를 얹어서 그럴듯한 답에 도달한다.
인간 수학자는 어떻게 일하는가? 자리에 앉아 공식을 응시하다가 어느 날 아침에 번개처럼 깨닫는다 — '아, 이렇게 된 거였구나.' 이 과정을 통찰(insight)이라 부른다.
자, 그럼 질문은 이렇다:
- 무차별 탐색으로 얻은 답이 수학을 '이해'한 것인가?
- '영감'이 없는 풀이에 수학적 가치가 있는가?
- 그냥 답을 맞힌 거라면, 컴퓨터는 1950년대부터 해왔던 일 아닌가? 이번 '돌파'는 어디서 돌파한 건가?
이는 기술의 옳고 그름이 아니라 패러다임 충돌이다. 찬성 측은 '결과가 맞으면 됐다'고 하고, 반대 측은 '그건 수학이 아니다'고 한다.
왜 AlphaGo 때보다 수습이 더 어려운가
바둑은 승부가 분명하다 — 이기면 이긴 거고, 지면 진 거다. AlphaGo가 이세돌을 이겼을 때, 세계는 케자 정도가 한마디 툴툴거린 걸 제외하면 대체로 받아들였다.
수학은 다르다.
수학은 '맞으면 맞고, 틀리면 틀린' 학문이지만, '맞다'와 '가치가 있다' 사이에는 깊은 골짜기가 있다.
AI가 고전 난제를 풀었다 — 수학자도 그 정도는 받아들일 수 있다. 그런데 그 풀이가 10만 번의 시행착오 끝에 우연히 얻은 거라면, 그 풀이에 아름다움이 있는가? 인간이 배울 새로운 것이 있는가? 다른 문제로 일반화할 수 있는가?
이것이야말로 논쟁의 본질이다.
게다가 AI가 공학 영역(코드 작성, 카피라이팅)에서 실수를 저질러도 사람들은 너그럽다 — 버그 고치고 프롬프트 조정하면 그만이다. 그런데 수학은 '맞거나 틀리거나'만 있는 이분법적 세계라서, 반만 맞고 반만 틀린 상태가 가장 평가하기 어렵다. AI가 내놓은 '증명'이 3단계에서 문제가 있는데 결론은 우연히 맞아 버린다면 — 그건 뭔가?
AlphaGo의 논쟁은 '기계가 인간을 이길 수 있는가'로 환원되었고, 이 질문은 기술적 사실로 곧장 종결됐다. 수학 논쟁에는 그런 '승부' 기준이 없기 때문에 끝없이 계속된다.
반대 진영의 진짜 우려
걱정은 AI에 밥그릇을 뺏기는 게 아니다.
수학자는 일자리를 걱정할 필요가 없다 — 최첨단 연구를 할 수 있는 수학자가 전 세계에 수천 명에 불과해서 '실업 문제'라는 건 애초에 존재하지 않는다.
실제 우려는 학술 평가 체계다.
- 논문에 AI를 사용했다면, AI를 '저자 기여'에 포함시켜야 하나?
- 심사자가 AI가 제시한 '증명'을 어떻게 검증할 것인가? 탐색 과정을 아무도 이해 못 하면서 결론만 보고 심사할 수 있나?
- 학생이 AI로 추측을 풀어냈다면, 이를 그 학생의 학술적 성취로 볼 것인가?
- 학술지가 AI가 만든 '증명'을 게재한다면, '인간 수학자가 만든 수학'의 가치가 떨어지지 않는가?
이런 제도적 질문에는 현재 답이 없다.
더 미묘한 건 취향(taste) 문제다. 수학계에는 '좋은 취향'이라는 용어가 있다 — 증명이 우아한가, 깊은 구조를 드러내는가, 후배 연구자에게 영감을 주는가, 전부 주관적 판단이다. AI의 무차별 탐색 풀이는 수학자들 사이에서 통상적으로 '취향이 없다'는 평가를 받는다. 그런데 '취향'을 심사 기준에 어떻게 녹여 넣을 것인가?
녹여 넣을 방법이 없다.
찬성 측은 왜 이 논쟁이 무의미하다고 보는가
실용派的 수학자들(주로 응용·계산수학·조합수학 쪽)은 이 다툼이 어리석다고 본다.
논리는 단순하다:
도구는 도구일 뿐이다.
그들이 드는 예는 계산기다. 1970년대 계산기가 보급되었을 때 수학 교육계도 난리를 쳤다 — '학생이 계산기를 써도 수학자라고 할 수 있나?', '암산 능력이 퇴화하지 않나?', '수학적 사고 훈련이 무의미해지지 않나?' 20년을 떠들었다. 결과는? 수학은 죽지 않았고, 분업이 달라졌다 — 암산은 기초 기술이 됐고, 계산기는 생산 도구가 됐으며, 추상적 사고는 오히려 더 중요한 자리에 올라갔다.
이번 AI 도구는 더 강력하지만 본질은 같다 — 더 사나운 '계산기'다.
응용 수학자들은 말한다. 통찰이 있든 없든 문제를 풀면 그만이다. 풀린 과정을 차차 들여다보다 보면 새로운 방법론이 추출될 수도 있지 않은가. 역사적으로 많은 수학 돌파가 처음에는 '미련한 방법이 우연히 맞아서' 시작됐다.
편집자의 생각
이 사건에서 진짜 주목할 것은 AI의 수학 실력 수준이 아니라, '수학적 취향'이라는 순수 주관적 기준이 처음으로 기계에 의해 코너에 몰린 것이다.
이전의 AI가 공학 영역(코드, 글쓰기)에 진입할 때는 평가 기준이 객관적이었다 — 돌아가면 돌아가는 거고, 분량이 채워지면 채워진 거다. 수학은 다르다. '취향' '아름다움' '우아함' 같은 요소들을 공식 무대로 끌어올린다 — 이 주관적 기준이 '기계의 산출물을 인정할 것인가'라는 질문과 처음으로 정면으로 부딪혔기 때문이다.
내 예측은 이렇다: 이번 논쟁은 단일 입장으로 수렴하지 않고, 두 개의 평행한 평가 체계로 갈라질 것이다.
- '결과 지향' — 문제를 풀면 그것이 수학이고, AI는 공동 연구자로서 공헌도에 따라 인정을 받는다.
- '과정 지향' — '인간의 통찰'이 개입한 수학만 수학이고, AI는 비계(scaffolding) 정도의 역할만 허락받는다.
양쪽은 각자의 학술지, 컨퍼런스, 인용 체계를 키워 나갈 것이다. 10년 후에는 'AI 수학'과 '인간 수학'이라는 완전히 다른 두 하위 분야가 등장할 가능성이 있다.
이번 사건은 과거의 어떤 사건과 어떻게 다른가? AlphaGo와는 다르다 — 그건 기술적 사실의 문제였고, 연산 능력으로 곧장 끝이 났다. 계산기와도 다르다 — 계산기는 어떤 인간 능력도 대체하지 않았지만, AI는 '사고 과정' 자체를 대체하고 있다.
불확실한 부분이 있다. 솔직히 그 AI 시스템이 얼마나 '범용적'인지는 판단이 어렵다 — 한 추측을 풀었다고 해서 한 부류의 문제를 풀 수 있다는 뜻은 아니다. 특수한 단일 문제만 맞히는 수준이라면 논쟁은 곧 가라앉을 것이다. 만약 증명을 체계적으로 쏟아내기 시작한다면, 그때야말로 진짜 패러다임 전환점이 된다.