実践

4B小型モデルがPostgreSQLのクエリプランナーを圧倒——81%の高速化を達成

パラメータ数40億のモデルが生成するクエリプランが、PostgreSQL標準のコストベースオプティマイザより81%高速。小型モデルが従来のCBOを凌駕する実例として注目される。

文字サイズ

81%の高速化はどこから来たか

パラメータ数4Bのモデルが生成したクエリプランは、PostgreSQL標準のコストベースオプティマイザより81%速い。

これは QORL がやったことだ。先週Hacker Newsのフロントページに登場し、48ポイント・コメント6件を獲得。議論の盛り上がりは爆発的ではないが、エンジニアリング面でのシグナルは明確で、「小型モデルが従来データベースコンポーネントの難題に着手し始めた」という点を示している。

81%の高速化はどう実現されたか

QORLのアプローチはエグゼキュータを置き換えるものではなく、プランナーの出力を置き換えるものだ。PostgresはSQLを受け取ると、本来 parser -> analyzer -> rewriter -> planner -> executor というチェーンを辿る。QORLはプランナーの段階で介入し、モデルでplan treeを直接生成してCBOのコスト推定と結合順序決定をスキップする。

つまり、オプティマイザがやるべき仕事をモデルが担ったわけだ。

81%とは、エンドツーエンドのクエリレイテンシ向上を指し、単一ステップの加速ではない。ユーザーがSQLを発行してから結果を得るまでの全体時間が81%短縮されたということだ。この数字は作者によるTPC-HとJOB(Join Order Benchmark)での比較によるもので、前者はOLAP標準テスト、後者はプランナーの結合選択を測定するために設計されたベンチマークだ。

JOBベンチマークが重要だ。これは元々CBOの弱点を露呈するために作られたもので、数十テーブルのスノーフレークスキーマ、選択性の極めて低い列、さまざまな外部結合が含まれる。あらゆるプランナーがこのワークロードで苦戦する。QORLのJOBにおける向上幅はTPC-Hよりも大きく、作者ブログには具体的な数字はないが、要約から察するに5倍近い桁に達する。

この事実のエンジニアリング的な意味はこうだ。CBOが何十年もかけて積み上げてきたコストモデル、結合順序探索、統計情報管理——これらが構造化データにおいて、4Bモデルのinference時シングルforward passで打ち負かされた。

なぜRAGではなくエンドツーエンド生成なのか

学習型のクエリ最適化は、ここ数年で二つのアプローチを辿ってきた。

ルートA:LLM + hint
スキーマ、統計情報、現在のSQLをプロンプトに詰め込み、モデルに /*+ INDEX(...) */ などのhintを出させる。エグゼキュータはCBOのまま、押されるだけ。

ルートB:plan treeのエンドツーエンド生成
モデルにplan treeの構造化表現を直接出力させ、CBOを迂回する。

QORLはBを選んだ。このルートの代償は大きい。モデルはrelation、join、filter、aggregateといったオペレータのセマンティクスを理解し、出力が合法なplanであることを保証しなければならない。だが見返りも大きい。CBOのすべての前提(データの一様分布、相関独立性、コストモデルの精度)が回避される。

代償とは何か。

  • 訓練データの作り方:plan treeの教師信号はどこから得るか。EXPLAINで履歴クエリを走らせて収集するか、ground truth optimizer(LP solver)で逆ラベル付けするかのどちらか。前者は既存プランナーの天井に縛られ、後者は計算量が爆発する。
  • 出力は合法なplanでなければならない:SQLは多少乱雑でも動くが、planはそうはいかない。誤った結合型ひとつでクエリが誤った結果を返す。遅いという問題ではなく、正しさの問題だ。
  • レイテンシ予算が厳しい:プランナーの段階は通常数ミリ秒から数十ミリ秒しかない。4BモデルがGPUでforward pass一回,刚好この予算に収まる。70Bモデルに替えると遅延が破綻する。

4Bパラメータで十分か

多くの人は本能的に、クエリプランニングは複雑だから大規模モデルが必要だと感じる。QORLの答えは否だ。

私の経験では、構造化出力のシナリオでは小型モデルの方が大型モデルより安定している。理由は二つある。

  1. フォーマット制約が厳しい:plan treeはJSONまたはDSLで、トークンは合法な空間に収まらなければならない。70Bモデルの「創造性」は強すぎて、plan上実行不能なオペレータ組み合わせを出力しがちだ。4Bモデルは学習した分布が狭く、むしろ安定する。
  2. 推論コスト:プランナーはクエリごとに毎回走るため、呼び出し頻度が高い。70Bモデルは一回の推論に数十〜数百ミリ秒かかるが、4BモデルはvLLM上で5ms以内に抑えられる。

コストが二桁違うというのは誇張ではない。70BモデルをA100単機で動かすと時間単価は$1程度。4BモデルをL4や4090で動かせば時間単価は$0.1程度だ。QPSを考慮すれば、差は100倍のオーダーになる。

Postgresのようなコアコンポーネントは、本番環境でQPSが数千〜数万になることも珍しくない。プランナーが毎秒千回以上呼ばれる状況で70Bモデルは支えられないが、4Bなら可能だ。

本番投入は可能か

不可能だ。複数の硬い問題がある。

訓練データのバイアス
QORLの訓練セットは、おそらく特定のワークロード(JOB + TPC-H + 合成クエリ)に由来する。本番環境に切り替わり、訓練セット未出現のクエリパターンが現れたとき、モデルは何を出力するか。不明だ。ゴミplanを出すかもしれないし、fallbackに直接走るかもしれない。

未出現パターンのフォールバック
QORLは何らかのfallbackを実装しているはずだ——低信頼度のクエリに遭遇したらネイティブCBOへ戻る。しかしこの閾値はどう設定する。閾値が高すぎればゴミplanが本番に入るし、低すぎればfallbackが頻発してモデルを使う意味がなくなる。

Postgresバージョンアップによるドリフト
Postgresのメジャーバージョンアップでは、プランナーの挙動が変わる(新オペレータ、新しい結合手法、コスト定数の変更)。モデルが学習したplan空間と実環境が一致せず、精度が落ちる。メジャーバージョンごとに再学習するか、モデルをPostgresバージョンに紐付けるかのどちらかが必要だ。

可観測性
CBOに問題があれば、EXPLAINでコスト、行推定、実実行行を確認できる。モデルに問題があれば、plan treeの構造しか見えず、なぜその選択をしたかは推論できない。デバッグの難易度は一段上がる。

コールドスタート
新規データベース、新規スキーマ、新規データ分布——モデルはこれらを見たことがない。初期訓練データをどう収集するか。従来通り、一週間本番クエリを走らせてEXPLAINでplanを収集する。このブートストラップ期間、モデルの効果はマイナスかもしれない。

したがってQORLの現状はこうだ。研究価値は高いが、エンジニアリング的には本番投入までまだ距離がある。ただし方向性は正しい。

編集部の考察

81%という数字が要点ではない。重要なのは「専用小型モデルが従来オプティマイザコンポーネントを置き換える」という道筋が通ったことだ。

ここ数年、LLMをデータベースに組み込む動きは基本的にRAG + hintのアプローチを辿ってきた——モデルは助言者であり、実行経路には触れない。QORLのようなエンドツーエンド生成の試みは、代償が大きすぎて誰も本気でやらなかった。4Bモデルと構造化出力訓練の組み合わせにより、コストが本番許容範囲に抑えられた。

この出来事の本当の意味は、データベースカーネル内のルールベース・コストモデルベースのコンポーネント、すべてが潜在的な置き換え対象であるということだ。

  • Buffer poolの置き換え:現在はLRU/Kなどのヒューリスティックに頼っているが、モデルでアクセスパターンを予測できないか。
  • Vacuumスケジューリング:現在はdead tuple比率の閾値で判断しているが、モデルでvacuumの効果を最大化できるタイミングを判定できないか。
  • 並行制御:ロック待機とデッドロック検出——モデルでホットスポットを予測できないか。
  • クエリ書き換え:ビュー書き換えやサブクエリ展開など、ルールベースの最適化をモデルに直接行わせられないか。

今後1〜2年注視すべきはプランナー単独の路線ではなく、「従来ヒューリスティックコンポーネントが専用小型モデルに置き換わる」というパラダイムがデータベースの他サブシステムに波及するかどうかだ。波及すれば、データベースカーネルのアーキテクチャは書き換えられるだろう。CBO、ヒューリスティックベースのオプティマイザといった一連の仕組みが、MapReduceがSparkに置き換わったように、一つずつ置き換えられていく可能性がある。

不確かな点もある。QORLの訓練データ規模と真の汎化能力は判断できない。81%はベンチマーク数字であり、本番環境のデータ分布、クエリの多様性、同時実行負荷はベンチマークよりはるかに複雑だ。本当の試練は、誰かが本番環境のサブードナリクエリ(読み取り専用、スレーブDB、時々fallback許容)で一ヶ月運用してみることだ。

QORLあるいは類似プロジェクトが、中堅インターネット企業の本番環境で三ヶ月問題なく稼働できたら、この話は本当に実現する。

出典:rohanbansal.com/qorl

出典: https://rohanbansal.com/qorl