Sakana AIの新論文──「一匹狼」の自己進化を捨て、モデル同士で競わせる
再帰的自己改良(Recursive Self-Improvement)というアイデアは、AI業界でかれこれ10年近く語られてきた。モデルが自分を書き換え、書き換わった自分を使ってさらに自分を書き換える──理屈上は無限に伸びていくはずの、論文界の聖杯である。
ところが実際に手を動かした人間なら誰もが知っている、この路線の致命的な欠点が一つある。単一モデルは改良を重ねるほどバイアスが強まり、見識が狭くなる。
8月初旬、「自然に着想を得たAI」を掲げる東京発のSakana AIが、Recursive self-improvement through collective intelligenceという論文を公開した。アプローチは明快で、一つのモデルに孤独に自己進化させるのではなく、複数のモデルを集団にして互いに競わせ、検証し合いながら共同で改良していくという方向転換だ。Hacker Newsのフロントページで25ポイントと2件のコメント(出典:news.ycombinator.com/item?id=50048522)を獲得しているが、爆発的な盛り上がりではない。それでも方向性としては注目に値する。
従来路線が壁にぶつかる理由
ここ数年の再帰的自己改良は、おおむね次のような形だった。単一のLLMが新しいバージョンを生成し、自分で評価し、合格なら差し替える。ループを延々と回す。
この路線には構造的なボトルネックが2つある。
- 単一障害点。一つのモデルが選手であり、審判でもある。その能力の上限は、「良し悪しを判別できる範囲」の上限そのものだ。自分の認識の外にあるものは、そもそも直せない。最初の段階で間違った方向に進んでいれば、100回ループを回しても間違ったままだ。
- 能力の天井。仮に評価器に問題がなくても、新しい解を生成する時点で自分の能力を使っている。自分を材料に自分を磨いても、上限は自分自身。AlphaGoが自分自身との対局だけで新しい手を学べないのと同じ理屈である。
AnthropicやOpenAIのような大手ラボが、この領域に本腰を入れて公開している例は少ない。AnthropicのConstitutional AIは関連しているとみなせるが、本質的には「単一モデル+ルール」でしかない。「自己改良ループ」を本気でやっているのは、中小ラボか、おもちゃデモの域を出ない実験にとどまっている。
Sakanaの解法:集合知+ゲーム理論
MASS(Multi-Agent Self-Improvement System、論文で定義されたパラダイムの略称)の設計思想は、次の3本柱に集約される。
- 複数モデル協調:1つのLLMが1つのLLMを改良するのではなく、N個のLLMが互いに提案し、批判し、採点する
- 相互検証:各候補案は他のモデル群が評価に参加し、単一判定のバイアスを排除する
- ゲーム理論的な反復:採用された提案者はその結果に責任を持つ。誤った提案を出した側にフィードバックが直接返り、次のラウンドのインプットになる
「collective(集合)」がエンジニアリング上どう実装されているかというと、こうだ。各改良サイクルで、システムが複数のLLMインスタンスを起動し、同じタスクに対する改善案を提出させる。次に別のモデル群がそれらを採点し、さらに第三のモデル群が統合と検証を行う。単なる多数決ではなく、提案者・レビュアー・統合者という役割分担に基づく重み付け評価になっている。
これは、昔からある話を思い起こさせる。一人で開発したプロダクトは、開発者本人の認知の天井を超えることはできない。複数人のチームは、どんな個人よりも高い地点に立てる。ソフトウェア開発の真理と同じことを、AIの自己進化に当てはめたのが本質的にSakana論文の試みである。
実験の設計と結果
論文はおもちゃタスクで片付けているわけではない。関連リポジトリをざっと確認した限り、彼らは少なくとも以下の3方向で実験を回している。
- コードタスク:HumanEval系のベンチマークで、複数モデル協調による改善案の優位性を検証。単一モデルのベースラインを上回ったと主張している
- モデルマージ / 重み進化:従来のmodel soup(単純な平均)ではなく、集団ゲーム的アプローチで複数のファインチューニング済みモデルの重みを統合
- 多ラウンド反復:各ラウンドごとに別のモデル群に前ラウンドの成果物を再評価させ、合格なら採用、不合格なら差し戻す
具体的な数字については、正直に断っておく。HNスレッドの議論は活発とは言えず、詳細はPDFを当たる必要がある。ここでベンチマークの数値を脚色して書くのは避けた。
ただ一点だけ確かなのは、単一のクローズドモデルに自傷的なループを回すような設計にはなっていないということだ。複数のオープンソース+クローズドモデルを混ぜて運用している。これは論文からのエンジニアリング的なシグナルでもある。「collective」という言葉が本当に意味を持つには、まず本当にcollective(集団)が存在しなければならない。
なぜ今まで誰も本気でこの路線を取らなかったのか
技術的に言えば、この路線は目新しいものではない。過去に取り組まれなかった理由は、極めて現実的だった。
- 計算コスト。N個のモデルで協調回すコストは、単一モデルの単純ループのN倍トークンを要する。GPT-4が高価だった時代には、この手の実験は財政的に不可能だった。
- 協調コスト。複数モデルの入出力フォーマット、文脈長、ツール呼び出し規約を揃える必要がある。一昔前は各社APIの仕様がバラバラで、統合作業はただの力仕事だった。
- 報酬シグナルの設計。誰が誰に点数をつけるのか、誤った提案をしたときに提案者を罰するのかレビュアーを罰するのか。こうしたゲーム的ルールを正しく設計するのは極めて難しく、間違えると「数台のモデルが言い合いをして、最後にもっとも声が大きいモデルの意見が通る」という退化を起こす。
Sakanaが今この路線を取れるのはなぜか。2つの前提が揃ったからだ。
- 第一に、複数モデルのAPIが十分に安価になった(DeepSeek、Qwenシリーズの小型モデルも呼び出せる)
- 第二に、Agentフレームワーク層が成熟した(LangGraph、CrewAI、AutoGenによって、複数モデル協調が大幅に身近になった)
つまりSakanaが他より賢いからやっているのではなく、インフラがちょうどその段階に達したからこそ、collectiveなやり方が「理論上の可能」から「エンジニアリング上の現実」に変わったのである。
編集後記的な考察
この論文で考えるべきポイントは、技術的な細部ではなく、それ自体が示す研究の好みの変化だと思う。
過去5年間のAI研究は、「より大きく・より長く・より深く」が主流だった。パラメータを積み、データを積み、Scaling Lawを信仰する路線だ。Sakanaの新論文は逆を向く。一つのモデルをひたすら押し上げるのではなく、単体には天井があると認めたうえで、組織的なやり方でその天井を迂回する。これはソフトウェア工学の歩みとまったく同じだ。何十年も前、私たちは「より優秀なプログラマーこそが更好的なコードを書く」と信じていた。今では知っている、良いコードはレビューと協調から生まれるものであり、より賢い個人の力業ではない。
短期的な見通しは慎重ながらも楽観的。マルチエージェントのオーケストレーションは驚くほど優れた研究デモも、ノイズだらけのマーケティング用ペーパー実装も生み出せる。真の判定基準は、そのパラダイムが精巧に選ばれたベンチマークで数ポイントのA/Bテスト差を出すことではなく、実世界の複雑なシステムを安定的かつ再現性高く改良できるかどうかだ。
長期的にさらに興味深いのは、この路線がAgentフレームワーク設計に対して与える逆向きのフィードバックだろう。「提案──レビュー──統合」という役割分担は、LangGraphやCrewAIといったフレームワークに直接反映される。Sakanaの実験がなんらかの協調構造の有効性を実証すれば、1年以内に主流Agentフレームワークに対応するテンプレートが登場する可能性は高い。
最大の不確実性は、現状この論文を本気で進めているのがSakana一社にとどまっている点だ。単一ラボのブレークスルーがコンセンサスになるには、独立した再現が必要である。半年以内に別のラボが別のモデル構成で類似の利得を再現できれば、初めてこの路線は盤石になる。
出典:
- 論文主页:https://pub.sakana.ai/mass/
- HN 討論:https://news.ycombinator.com/item?id=50048522