观点

AI 2027 预测 4 个核心假设:智能爆炸这条最可疑

AI 2027 把 2025-2027 写成两条剧本,智能爆炸排在 2027。但核技术、转基因、mRNA 疫苗的历史都显示,技术突破到大规模部署通常隔 10-20 年。这份预测的盲点不在算力曲线,而在它假设了能力突破 6 个月就能产生社会影响。

字号

Hacker News 首页热门,38 赞 36 条评论——AI 2027 这份预测最近在 AI 安全圈被推得很高。它的作者 Daniel Kokotajlo 来自 AI 安全研究社区,团队成员还包括 Scott Alexander、Thomas Larsen 等作者。他们把 2025 到 2027 写成两条叙事线:Race(竞争加速)和 Slowdown(放缓治理)。

我读完一遍,又翻回去看了几个关键假设。整体感觉:框架做得漂亮,里程碑节点具体到月份,但有几个核心假设值得拎出来盘一盘。

AI 2027 在预测什么

这是一个情景推演网站,不是论文。它的写法很特殊——把未来两年的 AI 进展写成小说化的脚本,每个月一个节点。

核心剧情:
- 2025:模型接近人类专家水平
- 2026:AI Agent 接管越来越多的研发工作
- 2027:AI 开始自动化 AI 研究本身,触发智能爆炸

两条分支的区别在于:Race 路径下人类来不及建立治理框架,AI 能力脱缰;Slowdown 路径下国际协调成功,研发被暂停 2 年。

来源:https://ai-2027.com

它的核心数字怎么来的

这份预测最有意思的地方,是它不全是定性叙事。团队给了一些具体数字:训练算力年增长曲线(基于 2019-2024 的 scaling 数据外推)、"AIA" 接管研发工作的比例(从 5% 升到 90%)、安全对齐失败的概率估计(约 20-30%)、关键里程碑的月份定位。

这些数字让讨论从 "AI 会不会失控" 变成 "这个具体的曲线斜率对不对"。这是它能在理性主义社区流行的原因——把模糊的恐惧拆成可讨论的具体变量。

问题在于:算力曲线是模型外推(scaling law 延伸),但 "AI 自动化 AI 研究" 这条是拍脑袋。前者有 5 年的数据支撑,后者没有先例。

智能爆炸真的会发生吗

这是 AI 2027 最激进的假设:AI 自动化自己的研究,能力暴涨,失控。

我跑过类似的实验——用 Claude 配合脚手架让模型自己改 prompt、调超参、跑 benchmark。真正的瓶颈不在算力,在于三点:

  1. 数据闭环:AI 自己生成训练数据,会快速过拟合到一个狭窄分布
  2. 实验设计:科研里的发现往往来自反直觉假设,LLM 没有强驱动力做没被奖励过的尝试
  3. 评估偏置:AI 倾向于优化现有指标,但论文级进步需要新指标被发明出来

AI 2027 对这些工程现实着墨很少。它假设 "AI Agent 乘以算力 = 科研产出",实际公式要复杂得多。

人类决策窗口其实没那么窄

文章把 2027 年设成关键节点。但历史上,技术突破和大规模部署之间通常有 10-20 年的缓冲。

几个对照:
- 核技术:1945 年裂变,1960 年代才大规模民用发电
- 转基因:1983 年第一株,1996 年才商业化种植
- mRNA 疫苗:技术成熟几十年,COVID 才逼出规模化部署

规律是:技术能力不等于部署能力。中间隔着监管、利益博弈、公众接受度。AI 2027 把这两者混为一谈,假设能力突破 6 个月后就会产生社会影响。

这不代表乐观——决策窗口可能比场景里写的更宽,但用法不同:不是用来 "踩刹车",是用来 "建护栏"。

我为什么还是推荐你读一遍

尽管上面这些吐槽,我还是觉得这份预测值得读。原因不是它的预测准——任何预测 2027 年的场景图都不可能准。

原因是它把模糊的恐惧具象化成可推演的里程碑。当你看到 "2026 年 Q3:AI Agent 接管 50% 研发" 这种说法,你脑子里会立刻冒出具体的反驳方式:是哪些公司?怎么验证?数据从哪来?

这就是它的价值。安全治理社区不需要更准的预测——那不可能。他们需要的是可被讨论、可被反驳、可被修正的场景脚本。AI 2027 是目前做得最系统的一份。

编辑思考

AI 2027 的真正贡献是把分歧显式化——它逼你选一边站队:你是相信 Race 路径下的失控风险更大,还是相信 Slowdown 路径下的国际协调能成?这种 "二选一" 的框架和气候模型、流行病推演的做法一致:先有分歧明显的预测,才能让实证证据逐步收窄区间。

反共识预测最大的风险,是让决策者为最坏情景过度配置资源。如果 70% 的概率是渐进路径(AI 慢慢渗透各行业),但所有 AI 政策都按 5% 的极端灾难情景设计,反而会浪费应对更可能问题的窗口。

一个反共识观察:AI 2027 这种叙事化预测对研究员心智的影响远大于对政策的影响。它会塑造下一代 AI 安全研究者的优先项排序——这未必是坏事,但值得警觉。预测工具本身会改变被预测对象的演化轨迹,这是预测领域的老问题。

我不确定 AI 2027 的具体数字对不对,但我确定这种 "显式分歧 + 可推演节点" 的写作方式会成为未来几年 AI 治理讨论的标准格式。

来源: https://ai-2027.com