Dwarkeshの最新エピソードは、立場が真っ向から対立する2人の研究者を同じテーブルにつけた——元METR研究員のJohn Berenと、Charlie。テーマは再帰的セルフ改善(recursive self-improvement、RSi)。
HNでは64スコア・コメント53件と爆発的な数字ではないが、コメント欄の議論の密度は高い。BerenはMETR出身——つまり、最先端モデルに対する能力評価や「実タスクの所要時間」ベンチマークを専門に扱う機関で、「AIが実際に何ができるか」について一次データを持つ立場。Charlie側の楽観論は、それとは別の根拠に支えられている。
2人が論じているのは同じものではない。これが議論全体を読み誤りやすい最大のポイントだ。
今回の対決で実際に論じられていること
論点は3つに整理できる:
- AIは人間のエンジニア関与を最小限にしながら、自身を継続的に強化できるか?
- できるとすれば、そのカーブは滑らかなのか、それとも突然ジャンプするのか?
- 「AIが次世代のAIを書き上げる」というゴールまで残り何年か?
BerenとCharlieの分岐は主に2点目と3点目にある。Berenは評価ベンチマークの観点から、現行システムが実世界の長時間タスクで示す失敗パターンは極めて安定していると見ている——同じ種類のミスを繰り返し、「自己改善」と称されているものの実態は単一点の最適化に過ぎず、システムレベルの跳躍ではないという立場だ。Charlieは計算資源の指数カーブと、コーディング・研究補助タスクでの近年のモデル進展を外挿し、Automated Research Engineering(AE)はすでに臨界点に近づいていると主張する。
Beren側の悲観論拠
BerenはMETRで、エージェントが「実タスク」で苦戦する場面を山ほど見てきた。METRのHCAST(実ソフトウェアエンジニアリングタスク)ベンチマークを走らせると、最先端モデルでも1〜2時間のタスクの完遂率が50%に届かないケースが多い。失敗パターンは工学的なもので「あと一歩」で済む類のものではない:
- コンテキストウィンドウが長くなると、物忘れや堂々巡りが始まる
- ツール呼び出しは一見正しく見えても、実際の実行セマンティクスがしばしばずれる
- 複雑なタスクで途中の一手が誤ると以降がすべて崩壊し、自己修正が効かない
評価者の視点から見ると、これはモデルの「自己修正」能力がスケールとともには向上していないことを意味する。GPT-4 → GPT-5のようなジャンプで能力は確かに伸びたが、その成長カーブは「一点物の誤り率が下がる」というより「カバー率が上がる」性質のものだ。
Berenの含意する主張:再帰的セルフ改善には少なくとも閉ループで安定したエラー訂正機構が要る。今のモデルはその閉ループを持っていない——むしろ、監視が必要な超優秀なインターンに近い。
Charlie側の反論
Charlieの側の根拠は少し性質が違う:
- 計算資源カーブは依然として指数的に伸びており、推論側のコスト低下は訓練側より速い
- SWE-bench VerifiedやTerminal-Benchといったコーディングベンチマークで近年のモデルは明確な伸びを示している
- 「自動研究工学」はすでに文献調査、MLコードの修正、小規模実験の実行ができてしまう
Charlieの核となる主張はこうだ:RSiにはAGI級の能力は必要なく、モデルが「コードを書く→実験を回す→結果を見る→コードを直す」というサイクルを安定的に回せれば十分。狭い領域(ML論文の再現、特定種のアルゴリズム最適化など)では、このサイクルはすでに某种程度上回り始めている。
彼の言い分を言い換えるとこうなる:基準を引き上げすぎだ。RSiはモデルに存在論を問う必要はなく、明確なreward signalを持つ環境内でイテレーションできればいい。
見落とされた中間の領域
2人が最も激しく衝突しているのは、実は定義の部分だ。Berenの頭にあるのは「人間のエンジニアに頼らずAIが自らを強化する」であり、Charlieが念頭に置いているのは「特定の領域でAIがすでにエンドツーエンドの改善サイクルを完走できる」。この2つは同じ問いではない。
すでに走り始めている中間の事例をいくつか挙げる:
- AlphaEvolve(DeepMind製):アルゴリズム発見のような狭いタスクでは、モデル+進化的探索の組み合わせがすでに人間設計を超える結果を出している。これがRSiに該当するかどうか?該当するなら、すでに起きていることになる。
- AutoMLパイプライン:AutoGluonやFLAML这类ツールは、ある意味で「モデル選定・ハイパラ調整を機械が自分でやる」もの。LLMは不要だが、立派にRSiの原型だ。
- コードエージェントが自分でテストを書く:DevinやCursor这类ツールは、特定のワークフローでは「コードを書く → テスト実行 → failureを確認 → コードを直す」まで実現できるが、各ステップの裏にはまだ人間の監督がいる。
筆者の判断:RSiは0/1のスイッチではなく、グラデーションだ。すでに狭いシナリオでは部分的なRSiが実現している。ただ、それを「再帰的セルフ改善」と呼ぶことに誰も踏み出さない——そう呼んだ瞬間に「AGIまであと一歩」と宣言したことになるからだ。
HNコメント欄から拾うべき論点
コメント欄の意見の分裂はポッドキャスト本編より小さいが、押さえておきたい角度がいくつかある:
- 高評価コメントの1つは次のように指摘する:RLHF/RLの訓練環境そのものがRSiの原型かもしれない——報酬モデルは人間が定義するが、方策最適化は機械が自分で回す。「人間がreward signalを与える」を外部入力とみなすなら、RLHFはすでに半自動化された研究工学だ。
- 別のコメントは情報論の角度から:再帰的セルフ改善のボトルネックは知能ではなく情報チャネルだ。モデルが自分の行動について読み取れるデータ(trace、log、reward)は有限であり、改善速度はこのチャネル幅で頭打ちになる。
- さらにRSiと「AIがAI研究を加速する」は別物だという指摘もある。前者はモデルが自分の重みを直接書き換えること、後者はモデルが人間の研究者を手伝ってよりよいモデルをより速く作ること。後者はすでに起きており(多くのML論文の実験部分はAI補助で書かれている)、前者はまだ影も形もない。
ポッドキャストの原リンク:https://www.dwarkesh.com/p/john-beren-charlie
編集後記
この議論が2026年の実務者にとって本当に意味を持つのはここだ:RSiのタイムラインは予測問題ではなく工学の問題である。
問うべきは「AIが再帰的に自己改善するか否か」ではなく、「どのレイヤで、誰がトリガーを引くか」だ。問題を分解すると:
- レイヤ:重みレイヤ(自分のパラメータを直接書き換える)、コードレイヤ(自分を実装するコードを変える)、環境レイヤ(自分を訓練するrewardを変える)のいずれか。レイヤごとにボトルネックは全く異なる。
- トリガー:人間の研究者か、AIエージェントか、それとも閉ループのパイプラインか。BerenとCharlieは無意識のうちに異なるトリガーを仮定しているので、永久に噛み合わない。
- 評価基準:「改善」を何で測るか。SWE-bench?社内ベンチマーク?実ユーザ調査?指標が変われば結論も正反対になり得る。
やや反コンセンサスな見方を一つ:RSiに関するほとんどの論争は、事実の争いではなく定義の争いだ。「XはAIが3年で自己改善可能と言い、Yは10年以内には不可能と言う」ような主張を見かけたら、まずどのレイヤの話かを問うべきだ。
不確実な点:RSiの中間領域(AlphaEvolveのようなもの)を「本物の」再帰的セルフ改善とカウントすべきか、現時点でコンセンサス定義は存在しない。仮にDeepMindが次回リリースでAlphaEvolveを「first practical recursive self-improvement」と呼んだ瞬間、世論の力学は即座に塗り替わる。この先の展開は予測不能だ。