Hacker News のフロントページに登場し、38ポイント・36コメントを集めた「AI 2027」が最近 AI 安全性のコミュニティで話題だ。著者の Daniel Kokotajlo は AI 安全性研究コミュニティの出身で、Scott Alexander や Thomas Larsen らも執筆に参加している。彼らは2025年から2027年を Race(開発競争加速)と Slowdown(ガバナンスによる減速)という2つのシナリオに分けて描いている。
通読して気になる仮設をいくつか拾い直してみた。全体としての印象は、フレームワークはよくできていて、マイルストーンも月単位で具体的だが、いくつかの中核的な仮定は別途検証する価値がある。
AI 2027 は何を予測しているのか
これは論文ではなくシナリオ推演サイトだ。最大の特徴は、今後2年の AI 進展を小説のようなスクリプト形式で書き、月単位のノードを置いている点にある。
主なプロット:
- 2025年:モデルが人間の専門家レベルに近づく
- 2026年:AI Agent が研究開発をどんどん引き受ける
- 2027年:AI が AI 研究自体を自動化始め、知性爆発が起きる
2つの分岐の違いはこうだ。Race では人間がガバナンス体制を構築する間もなく AI の能力が制御不能になり、Slowdown では国際調整が成功して研究開発が2年間停止する。
中核となる数字はどこから来ているのか
この予測で面白いのは、定性的な物語だけではないところだ。チームは具体的な数字を提示している。学習計算量の年間増加カーブ(2019〜2024年のスケーリングデータから外挿)、「AIA」が研究開発を引き受ける割合(5%から90%へ上昇)、安全性アラインメントの失敗確率(約20〜30%)、そして重要マイルストーンの月次配置。
こうした数字があるおかげで、議論は「AI は制御不能になるか」という曖昧な問いから、「この具体的なカーブの傾きは正しいか」という検証可能な問いに変わる。合理主義コミュニティで支持される理由はここにある。曖昧な恐怖を議論可能な変数に分解しているのだ。
問題はここからだ。計算量カーブはモデル外挿(scaling law の延長)だが、「AI が AI 研究を自動化する」は経験則でしかない。前者には5年分のデータがあり、後者には先行事例がない。
知性爆発は本当に起きるか
AI 2027 の最も急進的な仮定がこれだ。AI が自らの研究を自動化し、能力が急騰して制御不能になる。
私も近い実験を試したことがある。Claude に足場を与えて、自身にプロンプトを書き換えさせ、ハイパーパラメータを調整させ、ベンチマークを回させるものだ。実際のボトルネックは計算量ではなく、次の3点に集約される。
- データ閉ループ:AI が自分で学習データを生成すると、狭い分布に急速過適合する
- 実験設計:科学研究での発見は反直観的な仮定から生まれることが多く、LLM には報酬されていない試行を行う強い動機がない
- 評価バイアス:AI は既存指標を最適化する方向に傾くが、論文レベルの進歩には新しい指標の発明が必要になる
AI 2027 はこうした工学的な現実についてほとんど触れていない。「AI Agent × 計算量 = 研究成果」という仮定を置いているが、実態の式はもっと複雑だ。
人間の意思決定窓は実は狭くない
記事は2027年をクリティカルな節目に設定している。しかし歴史を見ると、技術ブレークスルーと大規模展開の間には通常10〜20年のバッファがある。
比較対象をいくつか挙げる。
- 核技術:1945年に核分裂、1960年代になってようやく大規模民用発電
- 遺伝子組換え:1983年に初の株、1996年になって商業栽培
- mRNA ワクチン:技術としては数十年成熟していたが、COVID が大規模展開を後押しした
ここから見えてくるパターンは技術能力 ≠ 展開能力だ。間には規制、利害調整、社会的受容性が介在する。AI 2027 はこの2つを混同しており、能力の突破から6か月で社会的影響が出ると仮定している。
これは楽観を意味しない。意思決定窓はシナリオより広いかもしれないが、使い方は異なる。「ブレーキを踏む」ためではなく、「ガードレールを作る」ための時間だ。
それでも一読を勧める理由
ここまで批判的に書いてきたが、この予測には読む価値がある。理由は予測の精度ではない。2027年を予測するシナリオ図が当たるわけがない。
価値の理由は、曖昧な恐怖を推演可能なマイルストーンとして具体化してくれることだ。「2026年 Q3:AI Agent が研究開発の50%を引き継ぐ」という記述を読めば、具体的な反論が即座に頭に浮かぶ。どの企業か?どうやって検証する?データは?
ここが本質だ。安全性ガバナンスのコミュニティに必要なのは、より正確な予測ではない。不可能なのだ。必要なのは議論でき、反論でき、修正できるシナリオスクリプトだ。AI 2027 は現状で最も体系的にそれをやっている。
編集後記
AI 2027 の本当の貢献は、意見の対立を明示的にしたことだと思う。読者に二者択一を迫る。Race シナリオでの制御不能リスクが大きいと考えるか、Slowdown シナリオでの国際調整が成功すると考えるか。こうした二者択一のフレームワークは気候モデルや感染症推論と同じ手法だ。まず意見が分かれる予測を出さないと、実証データが徐々に幅を狭めることができない。
反主流派的予測の最大のリスクは、最悪シナリオに意思決定者が過剰に資源を配分してしまうことだ。70%の確率で漸進パス(AI が各産業にじわじわ浸透する)が来るのに、AI 政策すべてが5%の極端な破滅シナリオに基づいて設計されると、もっとありそうな問題に対応する窓口を浪費してしまう。
一つ反主流派的な観察を。AI 2027 のような物語型予測が与える影響は、政策よりも研究者の思考に対してずっと大きい。次の世代の AI 安全性研究者の優先順位形成に影響する。悪いことではないかもしれないが、警觉しておく価値はある。予測ツールそのものが予測対象の進化軌道を変えてしまう。予測分野の古典的な問題だ。
AI 2027 の個々の数字が正しいかは分からない。だが「明示的な分岐 + 推演可能なノード」という書き方が、今後数年の AI ガバナンス議論の標準フォーマットになるだろうということは確信している。