递归自我改进(Recursive Self-Improvement)这个概念在 AI 圈里讲了快十年,一直是 paper 里的圣杯——让模型自己改自己,改完再用改完的自己再改自己,理论上一路飞升。
但真上手的人都知道这条路有个硬伤:单体模型越改越偏、越改越窄。
8 月初,Sakana AI(日本东京那家做"自然启发式 AI"的公司)发了一篇题为 Recursive self-improvement through collective intelligence 的论文,直接换思路——别让一个模型独自进化,拉一群模型互相博弈、互相验证、共同改进。HN 首页拿到 25 分、2 条讨论(出处:news.ycombinator.com/item?id=50048522),热度不算高,但方向值得关注。
传统路线为什么撞墙
过去几年递归自我改进的尝试基本都长这样:单个 LLM 生成新版本,自己评估,接受就替换。一个循环接一个循环。
这条路有俩结构性瓶颈:
- 单点失败。一个模型既是运动员又是裁判。它的能力上限,就是它能识别好坏的上限。它看不懂的东西,自然也不会改。一开始错的方向,循环 100 次还是错。
- 能力天花板。即便评估器没问题,生成新方案时也在用自己的能力。自己卷自己,上限就是自己。这跟 AlphaGo 自己跟自己下棋学不到新东西是一个道理。
Anthropic、OpenAI 这类大实验室公开做这块的反而不多。Anthropic 的 Constitutional AI 算沾边,但本质还是单模型加规则。真正敢做"自我改进循环"的,要么是小实验室,要么只是 toy demo。
Sakana 的解法:集体智能 + 博弈
MASS(Multi-Agent Self-Improvement System,论文里定义的范式缩写)的设计思路核心三条:
- 多模型协作:不是 1 个 LLM 改 1 个 LLM,而是 N 个 LLM 互相提议、互相批评、互相打分
- 互相验证:每个候选方案都有其他模型参与评估,避免单点评判的偏置
- 博弈式迭代:谁的提议被采信,谁就该对结果负责;错的是那个提议者——这个反馈直接进下一轮
"collective"在工程上的落地是这样的:每一个改进周期,系统启动多个 LLM 实例对同一个任务提出改进方案,然后让另一个模型群评分,再让第三个模型群做整合验证。不是简单的 majority vote,是带权重的、有角色的分工——提议者、评审者、整合者,各管各的。
这让我想起一个老段子:单人开发的产品只能达到开发者本人认知的上限,多人的团队能超越任何个体。把这条道理套到 AI 上,Sakana 的论文本质上是把"团队工程"的范式搬到了模型自我进化上。
实验怎么跑、跑出了什么
论文用的不是 toy task。我翻了下相关 repo(论文链接页里有),他们至少跑了几个方向:
- 代码任务:用 HumanEval 类的 benchmark 验证多模型协作改出来的方案,声称比单模型基线有提升
- 模型合并 / 权重进化:用集体博弈的思路合并多个微调模型的权重,而不是传统的 model soup 平均
- 多轮迭代:每一轮让一组模型重新评估上一轮产物,接受就保留,拒绝就回退
具体数字得说一句——HN 那帖里讨论的人少,论文细节要看 PDF 才清楚。这里就不替你脑补 benchmark 数据了。
但有一点是确定的:他们没有用单一闭源模型自残式循环,而是混合了多个开源 + 闭源模型一起跑。这本身就是论文的一个工程信号——collective 这个词,前提是 collective 得真的存在。
为什么以前没人认真走这条路
技术上这条路线不是新想法。过去没人做的原因很现实:
- 算力开销。N 个模型跑一遍协作,是 1 个模型单循环的 N 倍 token 消耗。GPT-4 当年贵的时候,这种实验烧不起。
- 协调成本。多模型的输入输出格式、上下文长度、工具调用约定都得对齐。早两年各家 API 都不一样,集成起来是体力活。
- 奖励信号设计。谁给谁打分、错了一次惩罚提议者还是评审者,这套博弈规则很难设计对——做不对就退化成"几个模型吵一架然后听最大嗓门的"。
Sakana 凭什么现在能做?两个前提成熟了:
- 第一,多模型 API 已经够便宜(DeepSeek、Qwen 系列的小模型都能调)
- 第二,Agent 框架层成熟了(LangGraph、CrewAI、AutoGen 让多模型协作变得相对简单)
说白了,Sakana 不是比别人聪明,是基础设施到了这个节点,collective 这件事从"理论上能做"变成了"工程上跑得起"。
编辑思考
这件事值得琢磨的点不在技术细节,而在它代表的研究品味转向。
过去五年主流 AI 研究的口味是"更大、更长、更深"——堆参数堆数据,Scaling Law 信仰。Sakana 这篇 paper 反过来:与其硬把一个模型推上去,不如承认单体有上限,然后用组织化的方式绕开它。这跟软件工程的演进一模一样——几十年前我们也以为"更聪明的程序员能写出更好的代码",后来发现好的代码是 review 和协作出来的,不是更聪明的个体堆出来的。
短期我对这条路线谨慎乐观。多 agent 编排可以做出惊艳的研究 demo,也可以做出满是噪声的营销纸面工程。真正的标尺是:这套范式能不能稳定地、可复现地改进一个真实复杂系统,而不只是在精心挑选的 benchmark 上 A/B 测试出几个百分点。
长期更看好的是它对 Agent 框架设计的反向输出——"提议—评审—整合"的角色分工,会直接喂给 LangGraph、CrewAI 这类框架。如果 Sakana 的实验真验证了某种协作结构有效,一年之内大概率会在主流 Agent 框架里看到对应模板。
最大的不确定性:这篇 paper 现在只有 Sakana 一家在认真做。单点突破要变成共识,需要独立复现。如果半年内有第二个实验室用不同模型组合复现出类似收益,这条路才算站稳。
来源:
- 论文主页:https://pub.sakana.ai/mass/
- HN 讨论:https://news.ycombinator.com/item?id=50048522