框架

Sakana AI 新論文:讓模型互相比拚,擺脫單兵作戰式的自我進化

遞迴自我改進喊了快十年,卻一直卡在同一道牆上——單一模型自己改自己,改到死胡同。Sakana 8 月初發的新 paper 換個思路:找一群模型互相提案、互相評審、共同迭代,繞過單體上限。

字級

Sakana AI 新論文:讓模型互相比拚,擺脫單兵作戰式的自我進化

遞迴自我改進(Recursive Self-Improvement)這個概念在 AI 圈講了快十年,一直是 paper 裡的聖杯——讓模型自己改自己,改完再用改完的自己再改自己,理論上一路飛升。

但實際動手做的人都知道這條路有個硬傷:單體模型越改越偏、越改越窄。

8 月初,Sakana AI(位於日本東京、專做「自然啟發式 AI」的公司)發了一篇題為 Recursive self-improvement through collective intelligence 的論文,直接換個思路——別讓單一模型獨自進化,拉一群模型互相博弈、互相驗證、共同改進。HN 首頁拿到 25 分、2 條討論(出處:news.ycombinator.com/item?id=50048522),熱度不算高,但方向值得留意。

傳統路線為何撞牆

過去幾年遞迴自我改進的嘗試幾乎都長這樣:單一 LLM 生成新版本,自己打分,過關就替換。一個循環接一個循環。

這條路有兩個結構性瓶頸:

  • 單點失效。一個模型既是選手又是裁判。它的能力上限,就是它能分辨好壞的上限。它看不懂的東西,自然也不會改。一開始就偏的方向,循環 100 次還是偏。
  • 能力天花板。就算評估器沒問題,生成新方案時也在用自己的能力。自己捲自己,上限就是自己。這跟 AlphaGo 自己跟自己下棋學不到新東西是同一個道理。

Anthropic、OpenAI 這類大型實驗室公開做這塊的反而不多。Anthropic 的 Constitutional AI 算沾到邊,但本質還是單模型加規則。真正敢做「自我改進循環」的,要不是小型實驗室,就只是 toy demo。

Sakana 的解法:集體智慧 + 博弈

MASS(Multi-Agent Self-Improvement System,論文裡定義的範式縮寫)設計思路的核心三條:

  • 多模型協作:不是 1 個 LLM 改 1 個 LLM,而是 N 個 LLM 互相提案、互相批評、互相評分
  • 互相驗證:每個候選方案都有其他模型參與評估,避免單點評判的偏誤
  • 博弈式迭代:誰的提案被採信,誰就該為結果負責;錯的算在提案者頭上——這個回饋直接送進下一輪

「collective」在工程上的落地方式是這樣的:每一個改進週期,系統啟動多個 LLM 實例對同一個任務提出改進方案,再交給另一組模型評分,最後讓第三組模型做整合驗證。不是簡單的多數決,而是帶權重、有角色分工的——提案者、評審者、整合者,各司其職。

這讓我想到一個老笑話:單人開發的產品只能達到開發者本人認知的天花板,多人團隊能超越任何個體。把這個道理套到 AI 上,Sakana 的論文本質上是把「團隊工程」的範式搬到模型自我進化上。

實驗怎麼跑、跑出了什麼

論文用的不是 toy task。我翻了相關 repo(論文連結頁裡有),他們至少跑了幾個方向:

  • 程式碼任務:用 HumanEval 類的 benchmark 驗證多模型協作改出來的方案,聲稱比單模型基線有提升
  • 模型合併 / 權重進化:用集體博弈的思路合併多個微調模型的權重,而不是傳統的 model soup 平均
  • 多輪迭代:每一輪讓一組模型重新評估上一輪產物,過關就保留,失敗就退回

具體數字得說一句——HN 那帖裡討論的人少,論文細節要看 PDF 才清楚。這裡就不替你腦補 benchmark 數據了。

但有一點是確定的:他們沒有用單一閉源模型搞自殘式循環,而是混搭了多個開源 + 閉源模型一起跑。這本身就是論文的一個工程訊號——collective 這個詞,前提是 collective 得真的存在。

為什麼以前沒人認真走這條路

技術上這條路線不是新點子。過去沒人做的原因很現實:

  1. 算力開銷。N 個模型跑一輪協作,是 1 個模型單循環的 N 倍 token 消耗。GPT-4 貴的那年頭,這種實驗燒不起。
  2. 協調成本。多模型的輸入輸出格式、上下文長度、工具呼叫約定都得對齊。早兩年各家 API 都不一樣,串起來是苦力活。
  3. 獎勵訊號設計。誰給誰打分、錯了一次懲罰提案者還是評審者,這套博弈規則很難設計對——做不對就退化成「幾個模型吵一架然後聽最大嗓門的」。

Sakana 憑什麼現在能做?兩個前提成熟了:

  • 第一,多模型 API 已經夠便宜(DeepSeek、Qwen 系列的小模型都能呼叫)
  • 第二,Agent 框架層成熟了(LangGraph、CrewAI、AutoGen 讓多模型協作變得相對簡單)

說穿了,Sakana 不是比別人聰明,是基礎設施到了這個節點,collective 這件事從「理論上能做」變成「工程上跑得起」。

編輯思考

這件事值得琢磨的地方不在技術細節,而在它代表的研究品味轉向。

過去五年主流 AI 研究的風格是「更大、更長、更深」——堆參數堆資料,Scaling Law 信仰。Sakana 這篇 paper 反過來:與其硬把一個模型推上去,不如承認單體有上限,再用組織化的方式繞過去。這跟軟體工程的演進一模一樣——幾十年前我們也以為「更聰明的程式設計師能寫出更好的程式碼」,後來發現好的程式碼是靠 review 和協作出來的,不是靠更聰明的個體堆出來的。

短期我對這條路線謹慎樂觀。多 agent 編排可以做出令人驚艷的研究 demo,也可以做出滿是雜訊的行銷紙面工程。真正的標尺是:這套範式能不能穩定地、可重現地改進一個真實的複雜系統,而不是只在精心挑選的 benchmark 上 A/B 測出幾個百分點。

長期更看好的是它對 Agent 框架設計的反向輸出——「提案—評審—整合」的角色分工,會直接餵給 LangGraph、CrewAI 這類框架。如果 Sakana 的實驗真的驗證了某種協作結構有效,一年之內大概率會在主流 Agent 框架裡看到對應的模板。

最大的不確定性:這篇 paper 目前只有 Sakana 一家在認真做。單點突破要變成共識,需要獨立復現。如果半年內有第二個實驗室用不同模型組合復現出類似收益,這條路才算站穩。


來源:

來源: https://pub.sakana.ai/mass/