一個 4B 參數的模型,生成的查詢計畫比 PostgreSQL 內建的 cost-based optimizer 快 81%。
這是 QORL 在做的事。本週登上 Hacker News 首頁,48 分、6 則留言。討論熱度不算爆,但工程上的訊號很清楚:小模型開始啃傳統資料庫元件的硬骨頭了。
81% 加速從哪來
QORL 的切入點不是換掉 executor,而是換掉 planner 的產出。Postgres 收到一條 SQL,原本走的是 parser -> analyzer -> rewriter -> planner -> executor 這條鏈。QORL 卡在 planner 這一步,直接用模型生成 plan tree,跳過 CBO 的 cost estimation 與 join ordering。
換句話說,optimizer 該做的事,模型接手了。
81% 是端到端 query latency 的提升,不是單一步驟的加速。也就是使用者送出一條 SQL 到拿到結果,整體快 81%。這個數字來自作者在 TPC-H 與 JOB(Join Order Benchmark)上的比較——前者是 OLAP 標準測試,後者專門用來測 planner 的 join 選擇。
JOB 這個 benchmark 很關鍵。它當初就是為了揭穿 CBO 弱點設計的:幾十張表的雪花式 schema、選擇性極低的欄位、各種 outer join。任何 planner 在這種 workload 下都會被繞進去。QORL 在 JOB 上的提升比 TPC-H 還猛,作者部落格沒給具體數字,但從摘要看,接近 5 倍的量級。
這件事的工程含意是:CBO 跑了幾十年的 cost model、join order 搜尋、statistics 維護——在結構化資料上,被一個 4B 模型在 inference time 一次 forward pass 做掉了。
為什麼不採 RAG,而是端到端生成
學習型查詢優化這兩年走了兩條路:
路線 A:LLM + hint
把 schema、統計資訊、當前 SQL 塞進 prompt,讓模型輸出 /*+ INDEX(...) */ 之類的 hint。executor 還是 CBO,只是被推了一把。
路線 B:端到端生成 plan tree
直接讓模型輸出 plan tree 的結構化表示,繞過 CBO。
QORL 選的是 B。這條路代價大得多——模型必須理解 relation、join、filter、aggregate 這些 operator 的語意,還要保證產出是合法 plan。但收益也大:CBO 的所有假設(資料均勻分布、相關性獨立、cost model 準確)都被繞過。
代價是什麼?
- 訓練資料怎麼造:plan tree 的監督訊號從哪來?要用 EXPLAIN 跑歷史 query 收集,或用 ground truth optimizer(LP solver)反向標註。前者受限於現有 planner 的天花板,後者計算量爆炸。
- 產出必須是合法 plan:SQL 可以亂寫但能跑,plan 不行。一個錯誤的 join type 直接讓查詢回傳錯的結果,不是慢的問題。
- latency 預算緊:planner 這一步通常只有幾毫秒到幾十毫秒。4B 模型在 GPU 上 forward pass 一次,剛好塞得進這個預算。換成 70B 模型,延遲就炸了。
4B 參數夠用嗎
很多人本能覺得,query planning 這麼複雜,一定要堆大模型。QORL 的答案是否。
我的經驗是:結構化輸出場景下,小模型比大模型更穩。原因有兩個:
- 格式約束嚴格:plan tree 是 JSON 或 DSL,token 必須落在合法空間裡。70B 模型「創造力」太強,容易輸出 plan 上跑不動的 operator 組合。4B 模型學到的分布更窄,反而穩。
- 推論成本:planner 每次 query 都要跑一次,頻率高。70B 模型一次推論可能要幾十到幾百毫秒,4B 模型在 vLLM 下能壓到 5ms 以內。
成本差兩個數量級不是誇飾。70B 模型 A100 單卡,小時成本算 $1;4B 模型用 L4 或 4090,小時成本算 $0.1。再考慮 QPS,差距是 100 倍等級。
Postgres 這種核心元件,生產環境 QPS 幾千上萬很常見。planner 每秒呼叫上千次,用 70B 模型撐不住,用 4B 可以。
能直接上生產嗎
不能。幾個硬問題:
訓練資料偏差
QORL 的訓練集大概來自特定 workload(可能是 JOB + TPC-H + 一些合成 query)。換到生產環境,出現訓練集沒見過的 query pattern,模型會輸出什麼?未知。可能給個垃圾 plan,也可能直接走 fallback。
未見過 pattern 的 fallback
QORL 應該有做 fallback——遇到低信心度的 query,退回原生 CBO。但這個門檻怎麼定?定高了,垃圾 plan 進生產;定低了,fallback 太頻繁,等於沒用模型。
Postgres 版本升級的漂移
Postgres 大版本升級,planner 行為會變(新 operator、新 join method、改過的 cost constant)。模型訓練的 plan 空間和真實環境不一致,準確率會掉。要嘛每次大版本升級都重訓,要嘛模型和 Postgres 版本綁定。
可觀測性
CBO 出問題,你可以 EXPLAIN 看 cost、row estimate、actual row。模型出問題,你只能看 plan tree 的結構,推不出它為什麼這樣選。debug 難度高一階。
冷啟動
新庫、新 schema、新資料分布,模型沒見過。要怎麼收集初始訓練資料?老方法:跑一週生產 query,EXPLAIN 收集 plan。這種 bootstrap 期,模型的提升可能是負的。
所以 QORL 目前的狀態:研究價值高,工程上離生產還有一段路。但方向是對的。
編輯觀點
81% 這個數字不是重點。重點是「專用小模型取代傳統 optimizer 元件」這條路開始走通了。
過去幾年,LLM 進資料庫幾乎都走 RAG + hint 的路子——模型當顧問,不碰執行路徑。QORL 這種端到端生成的嘗試,因為代價太高,沒人敢真的做。4B 模型加結構化輸出訓練,把成本壓到生產可接受的範圍。
這件事真正的含意是:資料庫核心裡那些基於規則和 cost model 的元件,每一個都是潛在的替代目標。
- Buffer pool 替換:現在靠 LRU/K 之類的啟發式,能不能用模型預測存取模式?
- Vacuum 排程:現在靠 dead tuple 比例門檻,能不能用模型判斷什麼時候 vacuum 效益最大?
- 並行控制:鎖等待與死鎖偵測,能不能用模型預測熱點?
- Query rewrite:視圖改寫、子查詢展開,這些基於規則的優化,能不能讓模型直接出 rewrite 後的 SQL?
未來一兩年值得追蹤的不是 planner 這一條線,而是 「傳統啟發式元件被專用小模型替代」 這個典範會不會擴散到資料庫其他子系統。如果擴散,資料庫核心的架構會被重寫——CBO、heuristic-based optimizer 整套東西,可能像 MapReduce 被 Spark 取代那樣,被一個個換掉。
不確定的部分:我無法判斷 QORL 的訓練資料規模和真實泛化能力。81% 是 benchmark 數字,生產環境的資料分布、query 多樣性、並發負載都比 benchmark 複雜得多。真正的考驗是有人敢把它跑在生產環境的次要 query 上——唯讀、從庫、容忍偶爾回退,看一個月再說。
如果 QORL 或類似專案能在某家中型網路公司的生產環境跑三個月不掉鍊子,這件事就真的成了。