실전

OpenAI, Navier-Stokes 모델 배포에 Lean 4 증명을 끼워 넣다

OpenAI가 공개 모델에 Lean 4 형식 증명을 직접 동봉한 첫 사례다. 수학자 전용 도구이던 형식 검증이 산업용 AI 릴리스의 일부가 됐다는 점에서 의미가 크다.

글자 크기

지난주 OpenAI가 Navier-Stokes 방정식용 모델을 공개했다. 유체역학은 AI for Science의 오래된 전장이라 PINN,神经 연산자(Neural Operator) 등으로 한 바퀴 돌았기 때문에 모델 자체만 놓고 보면 흥미로운 건 아니다.

스크롤을 멈추게 만든 건 다른 부분이다. 배포 패키지에 Lean 4 형식 증명이 그대로 들어 있었다.

논문 부록에 "형식화 가능하다" 한 줄이 적혀 있는 정도가 아니다. GitHub 저장소에서 clone하고, Lean 컴파일러로 바로 검증할 수 있는 진짜 증명이다. 이 소식은 Hacker News 메인에서 121 포인트, 댓글 119개를 모았다(출처: johndcook.com).

이번 소식을 몇 가지 질문으로 나눠 보겠다. 이번에 구체적으로 무엇이 달라졌는지, Lean 4가 왜 선택됐는지, HN에서 무엇이争论됐는지, 일반 엔지니어에게 어떤 의미인지, 그리고 정말 중요한 변화인지.

이번 배포에서 실제로 달라진 점

OpenAI가 이번에 내놓은 건 단순한 모델 가중치가 아니라, 모델 + 학습 데이터 설명 + 평가 벤치마크 + Lean 4 증명을 묶은 풀 패키지다.

핵심 경계는 두 군데다.

첫째, Lean 증명이 무엇을 증명하는가. "모델 예측 오차가 epsilon 이하" 같은 블랙박스 선언이 아니다. 그런 건 형식화할 수도 없고, 해서도 안 된다. 이번에 형식화한 건 모델 아키텍처의 불변량(invariant)이다. 특정 입력에서 네트워크 레이어가 well-defined라는 점, 그리고 일부 보존 법칙(에너지 보존 등)이 순전파 과정에서 유지된다는 점. 이건 타입 시그니처로 적을 수 있고 컴파일러에 넣을 수 있는 종류의 명제다.

둘째, 과거 "자연어 논증만" 제시하던 방식과 어디서 갈라지는가. 예전 AI 회사들의 모델 배포는 "벤치마크 돌려봤더니 괜찮아 보였다"가 전부였다. 지금은 한 층이 더 생겼다. 직접 lake build를 돌려서 Lean 컴파일러에게 이 증명이 정말 성립하는지 물어볼 수 있다. 자연어의 설득력이 아니라, 기계가 검증 가능한 사실이다.

코드 측면에서는 대략 이런 식이다(증명 구조를 보여주는 단순화 버전):

import NavierStokes.Model

theorem energy_conservation_preserved
  (layer : NavierStokes.Layer)
  (input : State with finite_energy) :
  has_finite_energy (layer.forward input) := by
  -- 증명 본문 생략: 레이어별로 펼친 뒤,
  -- layer.type_def에 있는 유한 에너지 보존 보조정리를 사용
  exact layer.energy_preserving input

실제 저장소 안의 증명은 당연히 이보다 훨씬 복잡하지만, 구조는 같다. "모델이 수학적으로 쓰레기가 아니다"라는 사실을 타입 시스템으로 못 박는 것이다.

Lean 4는 누구의 도구이고, 왜 지금인가

Lean 4는 Microsoft Research가 Lean 3를 기반으로 다시 쓴 형식 증명 언어다. 커널은 작지만 확장성이 강하고, 수학 커뮤니티에서 가장 많이 쓰인다. Leonardo de Moura가 주요 저자다.

지난 10여 년 동안 Lean 4의 활발한 사용자는 크게 두 그룹이었다.

  • 수학자: Terence Tao의 xena 프로젝트가 IMO 기출을 형식화하고, Lean 커뮤니티는 매년 IMO Grand Challenge를 진행한다.
  • 소프트웨어 검증: 컴파일러 정확성, 암호학 프로토콜, 운영체제 커널 증명(seL4 등).

AI 회사가 모델 배포에 Lean 4를 끼워 넣었다는 건 어떤 규모의 변화인가?

내 판단은 이렇다. 형식 방법(formal methods)이 "수공업 작업장"에서 "산업용 조립 라인"으로 옮겨 간 것에 가깝다.

예전 산업 등급 형식 증명 한 건의 비용은 수개월에서 수년, 그리고 형식 검증 전문가 3~5명 규모 팀이었다. Lean 4 자체의 설계 철학(확장 가능한 작은 커널 + 강력한 tactic 프레임워크)이 바로 그 규모를 위한 준비였다. 그런데 이것을 진짜 "산업용"으로 만든 건 LLM이다. tactic을 자동으로 작성하고, 보조정리를 자동으로 보완하고, 증명 경로를 자동으로 탐색할 수 있게 됐다.

OpenAI가 이번에 동봉한 Lean 증명은 손으로 쓴 게 아니라 모델이 보조해 생성했을 가능성이 높다. 그러나 핵심은 그 다음이다. 생성이 끝난 뒤에 사람과 도구 체인이 완전한 verification pass를 한 번 더 돌렸다. 그게 배포의 의미다.

HN 댓글에서 무슨争论이 오갔나

HN의 119개 댓글은 대체로 네 파로 나뉜다.

낙관파 — "verifiable AI is finally here"를 외치는 사람들. 수학도 형식화할 수 있으니 물리적 직관도迟早 형식화될 것이고, LLM + Lean 4는 엄밀한论证이 필요한 모든 영역(법, 컴플라이언스, 의료)을 다시 쓸 것이라는 입장이다.

회의파 — 형식 증명은 "증명 안의 보조정리가 올바르게 조립됐다"까지만 보장하지, 전제(공리, 모델 가정)가 틀리면 어떻게 하나라는 반론이다. Lean 4 증명 한 건은 주어진 가정 아래서 논리 오류가 없다는 것만 보장할 뿐, 가정 자체가 현실과 맞다는 건 보장 못 한다.

물리학파 — 이 파가 가장 흥미롭다. Navier-Stokes 방정식 자체가 Clay 수학연구소의 밀레니엄 문제 중 하나(해의 매끄러운 존재성과 유일성)다. 누군가는 곧바로 의문을 제기했다. OpenAI가 이번에 배포한 모델이 진짜 수치 해석을 하는 건지, 아니면 NS 방정식의 특정 성질을 형식 증명하는 건지. 둘은 거리가 멀다. 전자라면 Lean 증명은 그저 wrapper일 뿐이고, 후자라면 정말로 대단한 사건이다. 배포된 제목과 설명을 보면 거의 확실히 전자지만, 이런 혼동 자체가 이미 문제다.

실용파 — "코드는 어디 있고, 라이선스는 뭔데, 내 파이프라인에 붙일 수 있나"를 묻는 사람들. 철학엔 관심 없고, 내일 당장 자기 유체역학 시뮬레이션 파이프라인에 연결할 수 있냐만 본다.

AI 엔지니어에게 의미하는 바

형식 방법은 예전까진 항공우주(NASA의 PVS), 컴파일러(CompCert), 고안전성 코드(seL4 마이크로 커널) 같은 분야의 전유물이었고, 일반 AI 엔지니어와는 관계없는 영역이었다.

이번 배포가 verifier를 기본값으로 쓰는 흐름을 끌어올릴까? 단기적으로는 아니다. 장기적으로는 그렇다.

단기적으로는 여전히 진입 장벽이 높다. Lean을 아는 사람이 있어야 하고, 모델 아키텍처를 수학 언어로 다시 기술해야 하고, Lean 커뮤니티의 도구 체인과 통합해야 한다. 대부분의 ML 팀에게는 비용 대비 이득이 맞지 않는다.

장기적으로는 주시할 두 가지 방향이 있다.

바로 빌려 쓸 수 있는 첫 번째 시나리오: 금융·의료 의사결정 모델. 이 영역은 "설명 가능성, 감사 가능성"에 대한 요구가 매우 단단하다. 모델이 의사결정 트리나 룰 시스템이라면, "이 의사결정 경로는 데이터 X 위에서 규제 Y를 위반하지 않는다"는 Lean 증명을 한 건 작성하는 게 100페이지짜리 문서보다 유용하다.

두 번째는 컴파일러 최적화와 추론 엔진. vLLM, ONNX runtime 같은 도구가 "이 커널은 모든 적법한 입력에서 오버플로우를 일으키지 않는다"를 형식적으로 보장한다면, 운영 환경 배포에 엄청난 가산점이 된다. Lean 4의 tactic 프레임워크는 이미 이런 종류의 증명을 다룰 수 있다.

실무에서 발을 담그고 싶다면 최소可行 경로는 이렇다.

  1. 순수 함수형 모델 컴포넌트 하나를 고른다(예: tokenization, reward shaping).
  2. 입출력 타입과 핵심 불변량을 Lean 4로 적는다.
  3. LLM이 증명 초안을 쓰게 하고, 사람 + Lean 컴파일러가 verification pass를 돌린다.

장벽은 생각보다 높지만 돌아오는 보상은 확실하다. 증명이 verification을 통과하면 영원히 유효하다. PyTorch 버전을 바꿨다고 무너지지 않는다.

반(反)합의: 정말 그렇게 중요한가

여기까지 말하고 찬물을 한 끼얹어야겠다.

모델 배포에 Lean 4 증명이 동봉된 건, AI 추론 능력의 돌파구가 아니라 마케팅·설명 가능성 차원의 액션에 가깝다.

형식 증명은 본질적으로 "사후 검증" 메커니즘이다. "이 증명은 논리적으로 맞다"까지만 알려줄 뿐, "이 증명이 가리키는 대상이 실제로 맞다"는 보장하지 않는다. 어떤 모델이라도 완벽한 Lean 4 증명을 한 건 달고 다닐 수 있다. 그 증명은 단지 "모델이 어떤 틀린 물리 가정 아래서 완벽하게 작동한다"를 보여줄 뿐이다. 이런 "형식적이지만 틀린" 상황은 형식 방법 커뮤니티에서 verified garbage라고 부른다.

형식 증명을 "AI가 정말 이해한다"와 동일시하는 건 개념 오류다. AI가 세계를 이해하는 능력(혹은 그런 게 없다는 사실)은 Lean 4와 아무 관련이 없다. Lean 4는 이미 존재하는 추론을 재는 데 더 엄격한 자를 제공할 뿐, AI 추론을 더 강하게 만들지는 못한다.

그러면 왜 이번 배포를 굳이 다뤘나?

자의적으로 "도구 자체의 표준화"가 큰 사건이기 때문이다. 예전 형식 방법은 산재해 있고, 논문 속에 묻혀 있고, 학계 안에 갇혀 있었다. OpenAI 급 회사가 이걸 제품 배포의 기본 템플릿에 끼워 넣기로 했다. 동기가 설명 가능성 마케팅이라 해도, 객관적으로 업계 전체가 형식 방법을 사용하는 심리적 비용을 낮췄다. 리뷰어가 Lean 4 파일을 봤을 때 "학술 장난감"이 아니라 "이 팀은 진지하다"로 인식이 바뀐다.

비유하자면, 2018년各大 업체가 단위 테스트 커버리지를 배포 체크리스트에 넣기 시작한 것과 비슷하다. 단위 테스트 자체가 얼마나 혁명적인지가 아니라, 기본 동작으로 자리 잡은 것이 업계의 인지 마찰을 걷어냈다.

편집자 생각

이번 사건의 진짜 시그널은 "AI가 형식 증명을 할 수 있게 됐다"가 아니다. 이건 3년 전 DeepMind, Anthropic이 각자 다른 자리에서 시연한 적 있는 일이고, 그때는 정식 배포에 포함되지 않았을 뿐이다.

진짜 시그널은 배포의 기본 형태가 바뀌었다는 점이다. "모델 + 벤치마크 + 블로그 글"에서 "모델 + 벤치마크 + 형식 증명 + 블로그 글"로.

이 변화가 OpenAI가 스스로 세운 새 표준인지, 업계 전체가 따라할 트렌드인지. 나는 전자에 베팅한다. 이유는 단순하다. Lean 4 증명 작성에는 Lean 4 전문가가 필요한데, 산업 등급 Lean 4를 작성할 수 있는 사람이 전 세계에 수백 명 안 된다. 이런 인재 밀도는 헤드급 회사만 따라갈 수 있다는 뜻이고, 새로운 역량 장벽이 된다.

불확실한 부분: OpenAI의 증명이 정확히 어느 층위까지 증명했는가. 모델 아키텍처의 불변량 수준이라면 가치는 제한적이다(조금이라도 엄밀한 ML 엔지니어라면 누구나 작성할 수 있다). 물리 층위의 보존 법칙이 모델 출력 위에서도 유지된다는 걸 증명했다면 비로소 진짜 단단한 것이다. 왜냐면 그것은 "모델 예측"과 "물리 실재" 사이의 다리를 Lean 타입 시스템으로 못 박았다는 뜻이기 때문이다. 현재 공개된 정보만 보면 전자일 가능성이 높지만, 앞으로 1~2개월 가장 주시할 지점이다.

참고 출처: Formal Method Revolution - John D. Cook

출처: https://www.johndcook.com/blog/2026/09/09/formal-method-revolution/