4B 파라미터의 모델이 생성한 쿼리 플랜이 PostgreSQL 기본 cost-based optimizer보다 81% 더 빠르다.
이건 QORL이 한 일이다. 이번 주 Hacker News 1면에 올라왔고, 48점, 댓글 6개. 화제성이 폭발한 건 아니지만, 엔지니어링 신호는 분명하다. 소형 모델이 전통 DB 컴포넌트의 단단한 부분을 깨물기 시작했다.
81% 속도 향상은 어디서 왔나
QORL의 접근은 실행기를 교체하는 게 아니라 planner의 출력을 교체하는 것이다. Postgres는 SQL을 받으면 원래 parser -> analyzer -> rewriter -> planner -> executor 흐름을 탄다. QORL은 planner 단계에서 멈춰서, 모델로 plan tree를 바로 생성해 CBO의 cost estimation과 join ordering을 건너뛴다.
다시 말해 옵티마이저가 해야 할 일을 모델이 한 셈이다.
81%는 end-to-end query latency 향상이다. 단일 단계 가속이 아니다. 사용자가 SQL을 보내고 결과를 받기까지 전체적으로 81% 빠르다는 뜻이다. 이 숫자는 저자가 TPC-H와 JOB(Join Order Benchmark)에서 비교한 결과다. 전자는 OLAP 표준 테스트이고, 후자는 planner의 join 선택을 평가하기 위한 전용 벤치마크다.
JOB 벤치마크가 결정적이다. 이 벤치마크는 처음부터 CBO의 약점을 드러내도록 설계됐다. 수십 개 테이블의 스노우플레이크 스키마, 선택도가 극도로 낮은 컬럼, 각종 outer join. 어떤 planner도 이런 workload에서 낭패를 본다. QORL의 JOB 향상 폭은 TPC-H보다 더 크다. 저자 블로그에 구체적 숫자는 없지만, 초록을 보면 5x 근처다.
엔지니어링 의미는 이렇다. CBO가 수십 년간 굴려온 cost model, join order 탐색, statistics 관리 — 구조화된 데이터 위에서 4B 모델의 inference time 단일 forward pass로 날아갔다.
왜 RAG가 아니라 end-to-end 생성인가
학습 기반 쿼리 최적화는 최근 2년간 두 갈래로 흘렀다.
경로 A: LLM + hint
스키마, 통계, 현재 SQL을 prompt에 넣고 모델이 /*+ INDEX(...) */ 같은 hint를 출력하게 한다. 실행기는 여전히 CBO고, 살짝 떠밀린 셈이다.
경로 B: end-to-end plan tree 생성
모델이 plan tree의 구조적 표현을 바로 출력해 CBO를 우회한다.
QORL은 B를 골랐다. 이 길은 비용이 훨씬 크다. 모델이 relation, join, filter, aggregate 같은 연산자의 의미를 이해해야 하고, 출력이合法 plan임을 보장해야 한다. 하지만 보상도 크다. CBO의 모든 가정(데이터 균등 분포, 상관관계 독립, cost model 정확)이 우회된다.
비용은 뭔가.
- 훈련 데이터를 어떻게 만드나: plan tree의 supervision signal은 어디서 오나. EXPLAIN으로 과거 query를 돌려 모으든, ground truth optimizer(LP solver)로 역방향 라벨링하든. 전자는 기존 planner의 천장에 묶이고, 후자는 계산량이 폭발한다.
- 출력은合法 plan이어야 한다: SQL은 대충 써도 돌아가지만 plan은 그렇지 않다. join type 하나 틀리면 결과가 틀리게 나온다. 느린 정도가 아니라 정확도 문제다.
- latency 예산이 빠듯하다: planner 단계는 보통 몇 밀리초에서 수십 밀리초다. 4B 모델이 GPU에서 forward pass 한 번 돌리는 시간이 딱 이 예산 안에 들어간다. 70B 모델로 바꾸면 지연이 터진다.
4B 파라미터로 충분한가
대다수는 본능적으로 이렇게 느낀다. query planning이 이렇게 복잡한데 큰 모델이必不可少일 거라고. QORL의 답은 아니다.
내 경험상 구조화된 출력 시나리오에서는 소형 모델이 대형 모델보다 안정적이다. 이유는 두 가지다.
- 형식 제약이 엄격하다: plan tree는 JSON이나 DSL이고, token은 합법 공간에 떨어져야 한다. 70B 모델은 "창의성"이 너무 강해 plan에서 못 돌리는 연산자 조합을 만들기 쉽다. 4B 모델이 학습한 분포는 더 좁아서 오히려 안정적이다.
- 추론 비용: planner는 매 query마다 돌아간다. 호출 빈도가 높다. 70B 모델은 한 번 추론에 수십~수백 밀리초, 4B 모델은 vLLM에서 5ms 이내로 압축 가능하다.
비용이 두 자릿수 차이라는 건 과장이 아니다. 70B 모델을 A100 단일 카드로 돌리면 시간당 $1 정도, 4B 모델을 L4나 4090에서 돌리면 시간당 $0.1 정도다. QPS까지 고려하면 격차는 100배 수준이다.
Postgres 같은 핵심 컴포넌트는 프로덕션에서 QPS가 수천~수만에 이르는 게 흔하다. planner가 초당 수천 번 호출되는데 70B 모델로는 못 버티고 4B는 가능하다.
바로 프로덕션에 투입할 수 있나
없다. 단단한 문제가 몇 개 있다.
훈련 데이터 bias
QORL의 훈련셋은 특정 workload(JOB + TPC-H + 일부 합성 query)에서 나왔을 가능성이 높다. 프로덕션으로 가서 훈련셋에 없던 query pattern이 나오면 모델이 뭘 내놓을지 모른다. 쓰레기 plan이 나올 수도, fallback으로 빠질 수도 있다.
본 적 없는 패턴의 fallback
QORL은 fallback을 만들었을 것이다. 신뢰도가 낮은 query는 원래 CBO로 돌아간다. 근데 그 임계값을 어떻게 정하나. 너무 높이면 쓰레기 plan이 프로덕션에 들어가고, 너무 낮추면 fallback이 자주 발동해 모델을 쓴 의미가 없어진다.
Postgres 버전 업그레이드 drift
Postgres 메이저 버전이 올라가면 planner 동작이 변한다(새 연산자, 새 join method, 바뀐 cost constant). 모델이 학습한 plan 공간과 실제 환경이 달라져 정확도가 떨어진다. 메이저 업그레이드마다 재학습하든, 모델을 Postgres 버전에 묶어두든 해야 한다.
관측 가능성
CBO가 문제 일으키면 EXPLAIN으로 cost, row estimate, actual row를 볼 수 있다. 모델이 문제 일으키면 plan tree 구조만 보고 왜 그 선택을 했는지 추론이 안 된다. 디버깅 난이도가 한 단계 더 높다.
콜드 스타트
새 DB, 새 스키마, 새 데이터 분포는 모델이 본 적 없는 것들이다. 초기 훈련 데이터를 어떻게 모으나. 고전적인 방법: 프로덕션 query를 일주일 돌리고 EXPLAIN으로 plan 수집. 이런 bootstrap 기간에는 모델이 오히려 손해일 수 있다.
그래서 QORL의 현 상태는 이렇다. 연구 가치는 높고, 엔지니어링 면에서 프로덕션까지는 아직 거리가 있다. 다만 방향은 맞다.
편집자의 생각
81%라는 숫자가 핵심이 아니다. 핵심은 "전용 소형 모델이 전통 옵티마이저 컴포넌트를 대체한다"는 길이 열렸다는 점이다.
지난 몇 년 동안 LLM이 DB에 들어오는 방식은 거의 다 RAG + hint였다. 모델은 자문 역할만 하고 실행 경로에 손대지 않았다. QORL 같은 end-to-end 생성 시도는 비용이 너무 높아 아무도 진짜로 손대지 못했다. 4B 모델과 구조화된 출력 학습이 비용을 프로덕션 수용 범위까지 끌어내렸다.
이 일의 진짜 의미는 DB 커널 안의 규칙 기반·cost model 기반 컴포넌트가 하나하나 잠재적 대체 대상이라는 점이다.
- Buffer pool 교체: 지금은 LRU/K 같은 휴리스틱에 의존하는데, 모델로 접근 패턴을 예측할 수 있나.
- Vacuum 스케줄링: 지금은 dead tuple 비율 임계값에 의존하는데, 모델로 vacuum 수익이 최대인 시점을 판단할 수 있나.
- 동시성 제어: lock wait와 deadlock detection을 모델로 hotspot 예측할 수 있나.
- Query rewrite: 뷰 재작성, 서브쿼리 펼치기 같은 규칙 기반 최적화를 모델이 직접 rewrite된 SQL로 뽑아낼 수 있나.
앞으로 1~2년 동안 눈여겨볼 건 planner 한 라인이 아니라, "전통 휴리스틱 컴포넌트가 전용 소형 모델로 대체된다"는 패러다임이 DB의 다른 서브시스템으로 확산되느냐다. 만약 확산되면 DB 커널 아키텍처가 다시 쓰인다. CBO, heuristic-based optimizer整套가 MapReduce가 Spark에 밀린 것처럼 하나씩 교체될 수 있다.
불확실한 부분: QORL의 훈련 데이터 규모와 실제 일반화 능력은 판단할 수가 없다. 81%는 벤치마크 숫자다. 프로덕션의 데이터 분포, query 다양성, 동시 부하는 벤치마크보다 훨씬 복잡하다. 진짜 시험대는 누군가 프로덕션의 부차적인 query — read-only, replica, 가끔 rollback 허용 — 에서 한 달 돌려보는 것이다.
QORL이나 비슷한 프로젝트가 어느 중형 인터넷 회사의 프로덕션에서 석 달 동안 문제 없이 돌아간다면, 이건 진짜 된 거다.