Dwarkesh 这期播客把两个立场明显对立的研究者塞到同一张桌子前——前 METR 研究员 John Beren 和研究者 Charlie,主题是递归自我改进(recursive self-improvement, RSi)。
HN 上 64 分、53 条评论,不算顶流,评论区质量比分数显示的高。Beren 是 METR 出来的——那个专门给前沿模型做能力评估和"现实任务耗时"基准的机构,所以他对"AI 到底能做到什么"有第一手数据。Charlie 这边的乐观有不同来源。
两边吵的不是同一个东西。这是整场辩论最容易被误读的点。
这次对线到底在吵什么
三个核心点:
- AI 能不能在最少人类工程师参与的前提下,持续把自己改得更强?
- 如果能,这条曲线是平滑的还是会突然跳变?
- 我们距离"AI 自己写下一代 AI"这个终点还有几年?
Beren 和 Charlie 的分歧主要在第 2 和第 3 个问题上。Beren 从评估基准看,认为现有系统在真实长任务上的失败模式非常稳定——同样类型的错会反复犯,所谓的"自我改进"更多是单点优化,不是系统级跃迁。Charlie 倾向于把算力曲线和近期模型在编码、研究辅助任务上的进展外推,认为自动化研究工程(AE)已经到了一个临界点附近。
Beren 这边的悲观论据
Beren 在 METR 见过太多智能体在"现实任务"上拉胯。METR 那套 HCAST(真实软件工程任务)基准,跑下来前沿模型在很多 1-2 小时任务上完成率还不到 50%。失败模式很工程化,不是"差一点":
- 上下文窗口一长就开始忘事、绕圈子
- 工具调用看着对,实际执行的语义经常跑偏
- 复杂任务里某一步错,后面全崩,没有自纠能力
从评估者的视角看,这意味着模型的"自我纠错"能力并没有随规模同步提升。GPT-4 → GPT-5 这种跳跃,能力确实涨了,但增长曲线更像是"覆盖率提升",不是"单点错误率下降"。
Beren 的隐含论点:递归自我改进需要至少一个闭环稳定的纠错机制。现在的模型没有这个闭环——它们更像一个非常能干的实习生,需要人盯。
Charlie 的反驳点在哪
Charlie 这边的乐观依据不太一样:
- 算力曲线还在指数爬,推理侧的成本下降速度比训练侧还快
- 近期模型在 SWE-bench Verified、Terminal-Bench 这种编码基准上提升明显
- "自动化研究工程"已经能做文献综述、改 ML 代码、跑小规模实验
Charlie 的核心论点是:RSi 不需要 AGI 级别的能力,只需要模型能稳定完成"写代码—跑实验—看结果—改代码"这个循环。在狭窄领域(比如 ML 论文复现、特定类型的算法优化),这个循环已经在某种程度上跑起来了。
他大概会说:你把标准定得太高了。RSi 不需要模型能思考存在主义,只需要它能在一个有清晰 reward signal 的环境里迭代。
被忽视的中间地带
双方吵得最凶的地方其实是定义。Beren 心里想的是"AI 不靠人类工程师就把自己改强",Charlie 想的是"在特定领域里 AI 已经能完成端到端的改进循环"。这两个不是同一个问题。
举几个已经在跑的中间地带例子:
- AlphaEvolve(DeepMind 那个):在算法发现这种狭窄任务里,模型 + 进化搜索的组合已经能产出超过人工设计的结果。这算不算 RSi?算的话,它已经发生了。
- AutoML 流水线:AutoGluon、FLAML 这类工具,某种程度上就是"机器自己挑模型、自己调参"。它不需要 LLM,但它确实是 RSi 的雏形。
- 代码 Agent 自己写测试:Devin、Cursor 这类工具在某些工作流里已经能做到"写代码 → 跑测试 → 看 failure → 改代码",但每一步背后还是有人类监督。
我的判断:RSi 不是 0/1 开关,是梯度。我们已经在狭窄场景里实现了部分 RSi,只是没人愿意把它叫做"递归自我改进",因为叫了就等于宣告 AGI 临门一脚。
HN 评论里值得捞的几条
评论区分歧没播客里那么大,但有几个角度值得记一下:
- 一条高赞评论提到:RLHF/RL 的训练环境本身可能就是 RSi 的雏形——奖励模型是人定义的,但策略优化是机器自己跑的。如果把"人类给 reward signal"算外部输入,那 RLHF 已经是半自动化研究工程了。
- 另一条从信息论角度切入:递归自我改进的瓶颈不是智能,是信息通道。模型能读到的关于自身行为的数据(trace、log、reward)是有限的,改进速度被这个通道卡死。
- 还有人指出 RSi 和"AI 加速 AI 研究"是两件事。前者是模型直接改自己的权重,后者是模型帮助人类研究员更快地做出更好的模型。后者已经发生(很多 ML 论文的实验部分都是 AI 辅助写的),前者还没影。
播客原链接:https://www.dwarkesh.com/p/john-beren-charlie
编辑思考
这场辩论对 2026 年的从业者真正有用的地方在于:RSi 的时间线不是预测问题,是工程问题。
我们该问的不是"AI 会不会递归自我改进",而是"在哪一层发生、由谁触发"。问题拆开看:
- 层:是权重层(直接改自己的参数)、代码层(改实现自己的代码)、还是环境层(改训练自己的 reward)?每一层的瓶颈完全不同。
- 触发者:是人类研究员、AI Agent、还是一个闭环流水线?Beren 和 Charlie 各自默认了不同的触发者,所以永远吵不到一起。
- 评估标准:用什么指标判断"改进"?SWE-bench?内部 benchmark?真实用户研究?指标不同,结论可以完全相反。
反共识一点的判断:大多数关于 RSi 的争论其实是在争论定义,而不是在争论事实。下次再看到"X 说 AI 三年内能自我改进,Y 说十年内不可能",先问他们在吵哪一层。
不确定的地方:RSi 的中间地带(AlphaEvolve 这种)到底算不算"真正的"递归自我改进,目前没有公认的定义。如果 DeepMind 下次发布把 AlphaEvolve 叫做 "first practical recursive self-improvement",整个舆论场会立刻重新洗牌。这件事我没法预测。