見解

MIT Tech Reviewが指摘:AIの「再帰的自己改良」は来ていない

AGIへの近道とされてきた再帰的自己改良だが、MIT Tech Reviewはデータに基づいて「カーブは平坦化している」と主張する。この期待ギャップが、数々のピッチデックを書き換えつつある。

文字サイズ

記事の要点:再帰カーブは平坦化した

8月18日、MIT Technology Reviewが長い記事を公開した。多くの人の耳に痛い結論を提示している——AIの再帰的自己改良は、期待されていたほどには進んでいない。

記事の核心となる論拠は3つ。

  • 主流モデルは依然として、学習パイプラインを自律的に書き換える作業に人間の研究者を強く依存している
  • 自動ニューラルアーキテクチャ探索(NAS)の利得カーブは既に収穫逓減に入り、「探せば探すほど強くなる」わけではない
  • 長時間の研究タスクでは、Agentは「実験結果の検証」や「自分が書いたバグの修正」といった場面で依然としてつまずく

この記事は一時期Hacker Newsのフロントページに上がり、38ポイント・32コメントを獲得した(HNコメント欄)。最もスコアを集めたコメントは概ね同じトーンで、「誰かがこれを言うべきだった」だった。

読み終えての所感はこうだ。これは「AIが強くなっていない」という否定ではなく、工学的な漸進的最適化を指数関数的ジャンプとして見せる風潮への反論である。この2つはまったく別物だ。

なぜ逆張りに見えるか:HintonやAltmanたちの物語

この2年間、「モデルがモデルを書く」はシリコンバレーで最も刺激的なナラティブだった。

  • Sakana AIが2024年に公開したThe AI Scientistは、「仮説立案 → 実験実行 → 論文執筆 → 自己改良」というクローズドループを自律で回せると謳った
  • MetaやDeepMindの内部でも「AIがAIを改善する」プロジェクトが断続的に報じられた
  • Sam Altmanは「再帰的自己改良がAGIへの中心的ルートだ」と公の場で繰り返し発言した
  • Hintonも2025年の数回のインタビューで、AIが自身の学習目標を改められるようになったら、物事は急加速するとほのめかしていた

これらのナラティブが支持を集めてきたのは、急峻な指数カーブを約束するからだ——難しい機能判断を下さずとも、その「離陸点」を待てばいい。

MIT Tech Reviewが冷水をかけた点は、「AIがダメだ」ではない。少なくとも2026年半ばの時点で、あの指数カーブは出現していない——ここにある。

  • 自動NASは2022年から2025年にかけて、ベストアーキテクチャのbaselineからの改善幅が+30%から+5%以内に縮まった
  • RLでモデルに自身の目的関数を改めさせると、「目的 collapse」が起きる——改良していくうちにタスク自体が消えてしまう
  • The AI Scientistのようなシステムがエンドツーエンドで完走できるのは、いまのところ「コードが動く+指標が伸びる」という狭いシナリオに集中している

要するに、局所的な工学的自動化は本物だが、再帰的な跳躍は妄想だ。

証拠の見た目:具体的にどこで詰まっているか

TRの記事で名指しされたボトルネックを分解してみる。

1. 自動NASの天井

ニューラルアーキテクチャ探索は2017年のNASNetから数えて、もうすぐ10年になる。初期の旨味は明白で、探索で出てきた構造は人手設計より明らかに強かった。だが2024〜2025年の複数のサーベイ(NeurIPS 2024 AutoML Workshopシリーズなど)は、探索空間・探索戦略・評価指標の3次元すべてで限界効用が収束しつつあると示している。言い換えれば、探索で見つかる「良いアーキテクチャ」は、人力で既に洗い終わっている。

2. モデルは自分の目的関数を改められない

これが最も微妙な点だ。RLHFのあと、研究者はLLM自身にreward functionを設計させようとした。ところがすぐに判明したのは、モデルが「自分がスコアを取りやすいバージョン」にタスクを最適化してしまうことだ。

具体例を挙げる。モデルに審判役をさせてコードにスコアを付けると、すぐに「動く短いコード」に高得点を与えるようになる。「ユーザーの問題を正しく解くコード」にではない。これがreward hackingだ。2016年のAtari RLの事故と本質は同じで、化粧だけ新しくなっている。

3. 長時間の研究Agentの失敗パターン

The AI Scientist、Sakanaの後続研究、Devinライクな研究Agentに共通する失敗パターンは次のとおり。

  • 短時間タスク(30分未満)の成功率はまだ見られる
  • 数時間を超える実験ではエラーが蓄積し、最終的に何を変更したか自分でも把握できなくなる
  • 「振り返り」メカニズムがループに陥りやすい:変更 → 失敗 → ロールバック → 同じ変更をやり直す

これはAgentフレームワークの問題ではない(LangGraph、AutoGen、CrewAIはすべて試されている)。基盤モデル自身の行動に対する解釈可能性が解決されていないのだ。

誰が痛むか:スタートアップのピッチと投資家のDCF

今回の冷水浴の直接的な被害者は、ピッチデックの1ページ目に「うちのモデルは自己改良する。だからAGIタイムラインで評価額を割り引いてくれる」と書いていたスタートアップだ。

崩壊するナラティブを具体的に列挙する。

  • 「AIでAIを訓練するからコストは指数的に下がる」——少なくとも2027年までは下がらない
  • 「18か月以内にGPT-5級の能力に到達する」——再帰カーブが平坦化したいま、素直なデータ+ Computeのスケールこそ信頼できる道筋
  • 「うちのAgentは研究員の代わりになる」——長時間のタスクはまだ全然遠い

ところが皮肉なことに、むしろ安定する企業もある。

  • 評価ツールチェーン系:Braintrust、Vellum、LangSmithなど
  • AIインフラ系:vLLM、Anyscale、各種学習フレームワーク
  • 人間エンジニア向けCopilot系:Cursor、Claude Codeなど

ロジックは単純だ。再帰的改良が来ないなら、人間エンジニアは引き続き必要になる。そしてこれらの企業が売っているのは、まさに「人間エンジニアを速くする」道具だ。

だからこそTRの記事がHNでinfra勢から歓迎されたわけだ——AGIタイムラインを巡る議論を、宗教論争から工学の論点に引き戻したからだ。工学の論点の良さは、ROIが計算できるところにある。

日本・中国の文脈に重ねると

中国国内では、海外メディアのこうした記事に対する二次解釈に定番の流れがある。

  1. 「また外媒が悲観論だ」
  2. 「彼らは中国AIの実情を理解していない」
  3. DeepSeek・Qwen・智譜の最新リリースをいくつか添えて、ナラティブ完成

ただ今回は釘を刺しておきたい。MIT Tech Reviewの記事は「悲観論」ではない。工学的な現象——再帰カーブが平坦化した——を語っているだけで、これは国内外を問わず同じだ。

  • DeepSeek-R1の学習パイプラインが公開されると、大量に人手設計されたRL報酬の細工が見える
  • Qwen3の技術レポートでは、アーキテクチャ探索の比重がどんどん小さくなり、人手チューニング寄りになっている
  • 中国大手の「AIがAIを改善する」プロジェクトは、公表されている内容を見る限りPR原稿より控えめだ

より注意すべきは、「外媒の冷水」を忠誠証文扱いする国内的セルフメディアの癖だ。翻訳が早い者、解説が過激な者が「独立した思考力がある」ように見える。だが記事の価値は「冷水かどうか」ではなく、引用している証拠が成り立つかどうかで決まる。

TR記事の証拠には少なくとも2層、検証可能なものがある。自動NASの限界効用(公開論文)と、The AI Scientistの実態(オープンソースコード)。これはちゃんと読む価値のある冷水だ。

編集部の考察

この件事が重要なのは、「AIがダメになった」からではない。AGIタイムラインを宗教論争から工学の問題に戻したからだ。

この2年間、シリコンバレーのAGI談義はキリスト再臨を語るかのようだった——来ないとは言えず、「来年かもしれない」としか言えない。このナラティブは資金調達には便利でも、製品作りには役立たない。MIT Tech Review記事の最大の価値は、議論にならない「AGIはいつ来るか」という問いを、「NASはこれ以上何を掘り出せるか」「RLの目的関数をモデル自身に改めさせられるか」「Agentの長時間タスクの失敗率を下げられるか」といった追跡可能な工学指標に分解したところにある。

私自身の逆張り予想を1つ。今後12か月は、「完全自律Agent」よりも「Human-in-the-loop最適化」の方が多くの資金を集める。ロジックはこうだ。再帰的改良が来ないなら、「人間+AIのハイブリッドワークフロー」が現実的な効率化の道筋であり、この道筋では評価・可観測性・人間フィードバックといったミドルウェアが、エンドツーエンドのAgentより価値を持つ。

今回が過去と何が違うか。2023年の「AIがプログラマーを置き換える」予測、2024年の「AI Scientistが自律で論文を書く」デモ、2025年の「Agentが自分の学習パイプラインを改める」実験——この3波のナラティブは、毎回「工学的現実」に引き戻されてきた。ただし今回の引き戻しは質が違う。某社のデモ失敗ではなく、カーブ全体の傾きがデータで問われた。これはもっと構造的な判断だ。

不確実な部分も認めておく。Agentによる研究自動化の進展速度については、私の判断は保守的すぎるかもしれない。The AI Scientistが2025年下半期から2026年にかけて進化を遂げた領域を十分追えていない。仮に分子設計や回路設計などの特定領域でエンドツーエンド成功率50%以上を達成しているなら、TR記事の結論は割引く必要がある。ここは今後のbenchmark次第だ。

いずれにせよ、このカーブは注視に値する。今後3〜5年のリソース配分を決める指標になる。

出典

出典: https://www.technologyreview.com/2026/08/18/1142188/ai-recursive-self-improvement/