一个 4B 参数的模型,生成的查询计划比 PostgreSQL 自带的 cost-based optimizer 快 81%。
这是 QORL 做的事。这周登上了 Hacker News 首页,48 分,6 条评论。讨论热度不算炸裂,但工程上的信号很明确:小模型开始啃传统数据库组件的硬骨头了。
81% 提速怎么来的
QORL 的思路不是替换执行器,而是替换 planner 的输出。Postgres 收到一条 SQL,原本走的是 parser -> analyzer -> rewriter -> planner -> executor 这条链。QORL 卡在 planner 这一步,直接用模型生成 plan tree,跳过 CBO 的 cost estimation 和 join ordering。
换句话说,优化器该干的活,模型干了。
81% 是端到端 query latency 的提升,不是单步加速。也就是用户发出一条 SQL 到拿到结果,整体快 81%。这个数字来自作者在 TPC-H 和 JOB(Join Order Benchmark)上的对比——前者是 OLAP 标准测试,后者专门用来测 planner 的 join 选择。
JOB 这个 benchmark 很关键。它当初就是为了暴露 CBO 弱点设计的:几十张表的雪花 schema,选择性极低的列,各种外连接。任何 planner 在这种 workload 下都会被绕进去。QORL 在 JOB 上的提升比 TPC-H 还猛,作者博客里没具体数字,但从摘要看,接近 5x 的数量级。
这件事的工程含义是:CBO 跑了几十年的代价模型、join order 搜索、statistics 维护——在结构化数据上,被一个 4B 模型在 inference time 单次 forward pass 干掉了。
为什么不是 RAG,而是端到端生成
学习型查询优化这两年走了两条路:
路线 A:LLM + hint
把 schema、统计信息、当前 SQL 塞进 prompt,让模型输出 /*+ INDEX(...) */ 之类的 hint。执行器还是 CBO,只是被推了一把。
路线 B:端到端生成 plan tree
直接让模型输出 plan tree 的结构化表示,绕过 CBO。
QORL 选的是 B。这条路代价大得多——模型必须理解 relation、join、filter、aggregate 这些算子的语义,还要保证输出是合法 plan。但收益也大:CBO 的所有假设(数据均匀分布、相关性独立、cost model 准确)都被绕过了。
代价是什么?
- 训练数据怎么造:plan tree 的监督信号从哪来?要么用 EXPLAIN 跑历史 query 收集,要么用 ground truth optimizer(LP solver)反向标注。前者受限于现有 planner 的天花板,后者计算量爆炸。
- 输出必须是合法 plan:SQL 可以乱写但能跑,plan 不行。一个错误的 join type 直接让查询返回错的结果,不是慢的问题。
- latency 预算紧:planner 这一步通常只有几毫秒到几十毫秒。4B 模型在 GPU 上 forward pass 一次,刚好能卡进这个预算。换 70B 模型,延迟就爆了。
4B 参数够用吗
很多人本能觉得,query planning 这么复杂,必须上大模型。QORL 的答案是否。
我自己的经验是:结构化输出场景下,小模型比大模型更稳定。原因有两个:
- 格式约束严格:plan tree 是 JSON 或者 DSL,token 必须落在合法空间里。70B 模型"创造力"太强,容易输出 plan 上跑不动的算子组合。4B 模型学到的分布更窄,反而稳。
- 推理成本:planner 每次 query 都要跑一次,频率高。70B 模型一次推理可能几十毫秒到几百毫秒,4B 模型在 vLLM 下能压到 5ms 以内。
成本差两个数量级不是夸张。70B 模型 A100 单卡,小时成本按 $1 算;4B 模型用 L4 或者 4090,小时成本按 $0.1 算。再考虑 QPS,差距是 100 倍级别。
Postgres 这种核心组件,生产环境 QPS 几千上万很常见。planner 每秒调用上千次,用 70B 模型撑不住,用 4B 可以。
能直接上生产吗
不能。几个硬问题:
训练数据 bias
QORL 的训练集大概率来自特定 workload(可能是 JOB + TPC-H + 一些合成 query)。换到生产环境,出现训练集没见过的 query pattern,模型会输出啥?未知。可能给个垃圾 plan,可能直接走 fallback。
未见过 pattern 的 fallback
QORL 应该做了 fallback——遇到低置信度 query,回退到原生 CBO。但这个阈值怎么定?定高了,垃圾 plan 进生产;定低了,fallback 频繁,等于没用模型。
Postgres 版本升级的漂移
Postgres 大版本升级,planner 行为会变(新算子、新 join method、改过的 cost constant)。模型训练的 plan 空间和真实环境不一致,准确度会掉。要么每次大版本升级都重训,要么模型和 Postgres 版本绑定。
可观测性
CBO 出问题,你能 EXPLAIN 看 cost、row estimate、actual row。模型出问题,你只能看 plan tree 的结构,推理不出它为什么这么选。debug 难度高一档。
冷启动
新库、新 schema、新数据分布,模型没见过。怎么收集初始训练数据?老办法:跑一周生产 query,EXPLAIN 收集 plan。这种 bootstrap 期,模型的提升可能是负的。
所以 QORL 目前的状态:研究价值高,工程上离生产还差一段路。但方向是对的。
编辑思考
81% 这个数字不是重点。重点是「专用小模型取代传统优化器组件」这条路开始走通了。
过去几年,LLM 进数据库基本都走 RAG + hint 的路子——模型当顾问,不碰执行路径。QORL 这种端到端生成的尝试,因为代价太高,没人敢真做。4B 模型加结构化输出训练,把成本压到了生产可接受范围。
这件事真正的含义是:数据库内核里那些基于规则和 cost model 的组件,每一个都是潜在的替代目标。
- Buffer pool 替换:现在靠 LRU/K 之类的启发式,能不能用模型预测访问模式?
- Vacuum 调度:现在靠 dead tuple 比例阈值,能不能用模型判断什么时候 vacuum 收益最大?
- 并发控制:锁等待和死锁检测,能不能用模型预测热点?
- Query rewrite:视图改写、子查询展开,这些基于规则的优化,能不能让模型直接出 rewrite 后的 SQL?
未来一两年值得盯的不是 planner 这一条线,是 「传统启发式组件被专用小模型替代」 这个范式会不会扩散到数据库其他子系统。如果扩散,数据库内核的架构会被重写——CBO、heuristic-based optimizer 整套东西,可能像 MapReduce 被 Spark 取代一样,被一个个换掉。
不确定的地方:我没法判断 QORL 的训练数据规模和真实泛化能力。81% 是 benchmark 数字,生产环境的数据分布、query 多样性、并发负载都比 benchmark 复杂得多。真正的考验是有人敢把它跑在生产环境的次要 query 上——只读、从库、容忍偶尔回退,看一个月再说。
如果 QORL 或者类似项目能在某个中型互联网公司的生产环境跑三个月不掉链子,这件事就真成了。