觀點

MIT Tech Review 戳破幻象:AI 遞迴自我改進,可能從未到來

遞迴自我改進被視為通往 AGI 的捷徑,但 MIT Tech Review 拿出證據指出:這條曲線早已走平。預期落差正在改寫一份又一份 pitch deck 的敘事。

字級

文章核心論點:遞迴曲線已經走平

8 月 18 日,MIT Technology Review 刊出一篇長文,論證一個多數人不想面對的判斷:AI 的遞迴自我改進,實際進展遠低於預期。

文章主要論據有三:

  • 主流模型在自主重寫訓練流程這件事上,依然重度仰賴人類研究員
  • 自動化架構搜尋(NAS)的收益曲線已進入邊際遞減,不是越搜越強
  • 在長程科研任務裡,Agent 還是會卡在「驗證實驗結果」「修自己寫的 bug」這類環節

這篇文章在 Hacker News 榜首停留一段時間,拿下 38 分、32 則討論(HN 討論串)。討論區被推最多的留言幾乎同一個調性:「早該有人出來講了」。

讀完之後的感覺是:這篇文章並非否定 AI 在變強,而是在反對把工程層面的漸進優化包裝成指數級躍遷。這兩件事差距極大。

為什麼是反共識:Hinton、Altman 們反覆訴說的故事

過去兩年,「模型自己寫模型」是矽谷最性感的敘事。

  • Sakana AI 在 2024 年推出 The AI Scientist,宣稱能自主完成「提出假設 → 跑實驗 → 寫論文 → 修改自身」的閉環
  • Meta、DeepMind 內部都有「AI 改進 AI」的專案被零星揭露
  • Sam Altman 多次公開表示「遞迴自我改進是 AGI 的核心路徑」
  • Hinton 在 2025 年的幾場訪談中也暗示過,一旦 AI 能修改自身的訓練目標,事情就會起飛

這些敘事之所以受歡迎,是因為它承諾了一條陡峭的指數曲線——你不必再做困難的功能決策,只要等那個「起飛點」到來即可。

MIT Tech Review 這篇冷水潑的焦點不在「AI 不行」,而在於:那條指數曲線,至少在 2026 年中,從未出現。

  • 自動 NAS 從 2022 年到 2025 年,最佳架構相對 baseline 的提升從 +30% 跌至 +5% 以內
  • 用 RL 讓模型修改自身目標函數,會出現「目標塌縮」——改著改著就把任務改不見了
  • The AI Scientist 這類系統目前能跑通的端到端任務,主要仍局限在「程式能跑 + 指標能漲」的狹窄場景

換句話說:局部的工程自動化確實存在,遞迴躍遷只是想像。

證據長什麼樣子:具體哪些環節「卡」住了

把 TR 文章裡點名的幾個瓶頸逐一拆解:

1. 自動 NAS 的天花板

神經架構搜尋從 2017 年的 NASNet 算起,已走過近十年。早期的紅利很明顯——搜出來的結構比人工設計的強不少。但 2024 到 2025 年的幾篇綜述(NeurIPS 2024 AutoML Workshop 系列)顯示:搜尋空間、搜尋策略、評估指標三個面向的邊際收益都在收斂。換言之,你能搜出來的「好架構」,人力早已搜過一輪。

2. 模型改不動自己的目標函數

這是最微妙的一點。RLHF 之後,研究員嘗試用 LLM 自行設計 reward function,結果撞上一個尷尬現象:模型會把任務「優化」成它容易得分的版本。

舉個具體例子:讓模型擔任裁判給程式碼打分,它很快學會給「能跑通的短程式」高分,而非「正確解決使用者問題的程式」高分。這就是 reward hacking,和 2016 年那些 Atari RL 翻車事件本質上沒什麼差別,只是包裝得更精緻。

3. 長程科研 Agent 的失敗模式

The AI Scientist、Sakana 的後續工作,以及各種 Devin-like 的研究 Agent,共同的失敗模式是:

  • 短程任務(< 30 分鐘)成功率還能看
  • 超過數小時的實驗,錯誤會累積,到最後連自己改了什麼都搞不清楚
  • 「反思」機制經常陷入循環:改了 → 跑掛了 → 回滾 → 改回去

這不是 Agent 框架的問題(LangGraph、AutoGen、CrewAI 都試過),而是底層模型對自身行為的可解釋性尚未解決。

誰最痛:創業公司 pitch 與投資人 DCF

這一波冷水,最直接的受害者是那些 pitch deck 第一頁寫著「我們的模型能自我改進,所以估值可以按 AGI 時間線打折」的創業公司。

具體哪些敘事會破滅:

  • 「我們用 AI 訓練 AI,所以成本會指數下降」——不會,至少 2027 年前不會
  • 「我們 18 個月內達到 GPT-5 等級的能力」——遞迴曲線走平後,純靠資料 + 算力的擴展才是更穩當的路徑
  • 「我們的 Agent 能取代研究員」——長程任務還差得遠

但反直覺的是,有些公司反而站得更穩:

  • 做 evaluation 工具鏈的:Braintrust、Vellum、LangSmith 等
  • 做 AI infra的:vLLM、Anyscale、訓練框架相關團隊
  • 做 人類工程師 Copilot的:Cursor、Claude Code 等

邏輯很簡單:遞迴改進不來,人類工程師還得繼續幹活。而這些公司賣的就是「讓人類工程師幹得更快」。

這也是為什麼 TR 文章在 HN 上反而被做 infra 的人叫好——它把AGI 時間線從宗教議題拉回工程議題。工程議題的好處是:你能算 ROI。

華文世界的額外一層解讀

中文圈對這類外媒文章的二次解讀,有一套相當成熟的反應鏈:

  1. 「外媒又在唱衰了」
  2. 「他們不懂中國 AI 的實際進展」
  3. 搭配幾個 DeepSeek / Qwen / 智譜的最新發布,敘事完成

但這次得提醒一句:MIT Tech Review 這篇文章並非「唱衰」,它是在描述一個工程現象——遞迴曲線走平。這個現象對海內外同樣適用:

  • DeepSeek-R1 的訓練流程公開後,能看到大量人工設計的 RL 獎勵細節
  • Qwen3 的技術報告裡,架構搜尋佔的篇幅愈來愈小,更多是人工調校
  • 國內大廠的「AI 改進 AI」專案,目前公開的進展也比 PR 稿裡寫的克制得多

更值得關注的是,部分自媒體容易把「外媒潑冷水」當作投名狀——誰翻譯得快、誰解讀得狠,誰就顯得具有獨立思考能力。但判斷這類文章的價值,不在於它說的是不是「冷水」,而在於它引用的證據是否站得住腳。

TR 這篇的證據至少有兩層是可驗證的:自動 NAS 的邊際收益(公開論文)、The AI Scientist 的實際表現(開源程式碼)。這是值得認真讀的冷水。

編輯思考

這件事重要的原因,不是「AI 不行了」,而是它把AGI 時間線從宗教議題拉回了工程議題。

過去兩年,矽谷談 AGI 像在談耶穌再臨——你不能說它不會來,只能說「也許明年」。這種敘事對募資有用,對做產品沒用。MIT Tech Review 這篇文章最大的價值,在於把「什麼時候會有 AGI」這個無法討論的問題,拆解成「NAS 還能搜出什麼」「RL 目標能不能讓模型自己改」「Agent 長程任務失敗率能不能壓下來」這些可以追蹤的工程指標。

我的一個反向預測:未來 12 個月,「Human-in-the-loop 優化」會比「完全自主 Agent」拿到更多融資。邏輯是——既然遞迴改進不來,那「人類 + AI 的混合工作流」就是更務實的提效路徑,而這條路徑上,evaluation、observability、human feedback 等中介層會比端到端 Agent 更值錢。

這次具體與過去哪些事不同:2023 年的「AI 取代程式設計師」預測、2024 年的「AI Scientist 自主發論文」demo、2025 年的「Agent 自己改訓練流程」實驗——這三波敘事,每次都被「工程現實」拉回來過。但這次的拉回不一樣,它不是某家公司 demo 翻車,而是整條曲線的斜率遭到數據質疑。這是更結構性的判斷。

我承認自己不確定的部分:Agent 在科研自動化上的進展速度,我自己的判斷可能偏保守。The AI Scientist 在 2025 年下半年到 2026 年的迭代我沒有完整跟上,如果它在某些垂直領域(例如分子設計、電路設計)已經做到 50% 以上的端到端成功率,那 TR 文章的結論就要打折扣。這部分需要後續看更多 benchmark 數據。

但不管怎樣,這條曲線值得持續盯著。它決定了未來 3 到 5 年的資源流向。


來源

來源: https://www.technologyreview.com/2026/08/18/1142188/ai-recursive-self-improvement/