2026年10月3日、The Guardianが独占記事を発表した:OpenAI safety leader quits warning AI company's culture is 'broken'。
安全幹部が出ていき、対外的に社内の文化を「broken」と言い放つ——OpenAIでこの展開を見るのはこれで3度目だ。Altmanが取締役会に解任され(その後復帰した)2023年11月の騒動から、ちょうど3年が経過している。
今回の出来事:誰が去り、何を語ったか
The Guardianの報道本文は完全には確認できていない。Hacker Newsのスレッド(item 49948332、フロントページのスコア50、コメント12件)と既存の情報をもとに、わかっている事実を整理する。
- OpenAIの安全/ガバナンス担当幹部が一人退任した
- 黙って去るのではなく、The Guardianでの独占インタビューを選んだ
- 社内の文化を形容するのに「concerning」や「needs work」ではない「broken」という言葉を使った
- 時期は2026年10月、Altman騒動の3年後
このニュースをOpenAIの退任リストの中に位置づけてみると、あるパターンが見えてくる。
- 2023年5月:Ilya Sutskeverが共同創業者兼チーフサイエンティストの座を離れる(Altman解任劇の中心人物)
- 2024年5月:Jan Leikeが退任し、「safety culture has taken a backseat to shiny products」と公開発言
- 2024年5月:IlyaがSafe Superintelligence Inc.の設立を正式発表
- 2026年10月:また一人安全幹部が、今回は「broken」と発言
3年で3つのバージョン、表現は回を追うごとに強くなっている。
なぜ今回が違うのか:静かな退職から公然の告発へ
前回のケースでは、IlyaもJan LeikeもTwitter(X)に長文を投稿し、面目を保とうとしていた。「私は懸念している」「会社がもっとうまくやってほしい」「これは難しい決断だった」——彼らがまだOpenAIというブランドを大切にしていたことが伝わってくる。
今回はいきなりbrokenだ。
brokenは英語の世界では重い言葉だ。broken promise(破られた約束)、broken system(機能不全の制度)、broken home(崩壊した家庭)。それは「改善が必要」ではなく「修復不能」を意味する。
そして今回は情報発信のチャンネルがThe Guardianであり、個人のXではない。この違いはどこにあるのか。
- 個人のX:依然として「私という個人が意見を表明している」、主語は「私」
- The Guardian独占:第三者のお墨付きを得たことになる。メディアが署名入りで報道する以上、裏付けとなる材料がある——内部文書、複数人の証言、あるいはすでに起きた具体的な事故のいずれかだろう
HNのコメントでは「Is this the person who wanted more time for safety testing before a release?」(リリース前に安全性テストの時間を延ばそうとした人か?)と直接問う声がある。この推測自体、すでにコミュニティがある筋書きを前提にしていることを示している。「誰かがブレーキをかけようとしたが押し切られ、去った」というパターンだ。
私なりの見立て:これは上司に不満を持つ社員の物語ではなく、社内にもう居場所を残す理由がほとんどなくなったという物語だ。
構造的な問題:alignment-by-engineering vs alignment-by-marketing
OpenAIの安全問題を、多くの人は「誰が責任を取るべきかで」(Altmanか、取締役会か、解体されたSuperalignmentチームか)で捉えようとする。
しかし、それは問い方を間違えている。
本当の問題はインセンティブ構造にある。
OpenAIのビジネスモデル = AGI の約束。
AGIがなければ、OpenAIは評価額3000億ドル、売上130億ドル、赤字50億ドルのチャットボット企業にすぎない。AGIというナラティブがあってこそ、次の資金調達、Microsoftとのコンピュート契約、従業員株の出口が描ける。
アライメント研究(alignment research)のビジネスモデル = AGIを少し遅らせること。
「まだ準備ができていない、もう少し待つべきだ」という安全声明を出すたびに、会社評価のナラティブの核心が直接削がれる。
この二つは構造的に衝突する。AGIが一日前倒しになる=成長ナラティブが一日分強くなる=コンピュート調達の安全( Microsoft、政府、軍由来)が一日分強くなる。アライメント研究が「待て」と言う=成長ナラティブが一日分弱くなる。
会社は当然成長を選ぶ。
その結果として見えてきたのが次の一連の流れだ。
- Superalignmentチームが2024年5月に解散、20%コンピュート約束は履行されず
- Jan Leikeが「safety culture has taken a backseat」と公開発言
- そして今回、別の幹部が「broken」と発言
これらは個人の選択ではなく、構造がもたらした結果だ。alignment-by-engineering(エンジニアリング駆動のアライメント)は米国のトップAI企業ではすでに失敗しており、残っているのははalignment-by-marketing(マーケティング駆動のアライメント)——安全報告書を出し、Responsible Scaling Policyのドキュメントを作り、Frontier Model Forumを立ち上げるが、リリースそのものは止めない。
国内事情の関心が掴みにくい:構造的な鏡像問題
視線を国内に戻す。
国内でアライメント研究をしている人はどこにいるのか。
肌感覚としては:産業界に専業で対位する役割はほぼ存在しない。
- 大企業の「安全チーム」は基本的にコンテンツセーフティ(政治関連、暴力関連のフィルタリング)であって、AI alignment(モデル欺挙、权力寻求行為の防止)ではない
- 大学や研究機関にはRLHFやレッドチームの論文があるが、産業界で独立したalignmentチームを作るケースは少ない
- 智源、バイトダンスのAI Lab、Shanghai AI Labには関連研究があるが、OpenAIのような「20%コンピュート+取締役会直属」という体制ではない
なぜ作らないのか。
KPIが許さないからだ。
国内大手のモデルチームのKPIはDAU、API呼び出し量、売上だ。alignmentチームが成功した時のアウトプットは「3つの破滅的リスクを発見したので、リリース延期を推奨します」——この提言を出した瞬間、プロダクトチームの四半期ボーナスが消える。
この構造的矛盾は、国境を問わない。
OpenAIの失敗は米国特有のものではなく、AGIを成長ナラティブの核にするあらゆる企業が直面する失敗だ。違いは、OpenAIはこれを公の舞台で演出し、国内大手はそもそも「幹部がbrokenと叫ぶ」段階までさせない——HRがもっと手前で処理する。
編集部の所感
この出来事がなぜ重要か——それは「OpenAIのまた一つ目のネガティブニュース」ではないからだ。
本当のシグナルは:AI安全ガバナンスがキャリアの選択肢として、トップ企業によって否定されつつあるということだ。
本当に力のあるalignment研究者(コンテンツモデレーターではない)にとって、ここ3年で実際のキャリアの選択肢は狭まっている。
- トップ企業:ポジションは周縁化され、発信権は削られ、残る人は妥協するか去るかのどちらか
- 独立系ラボ:MIRIは資金不足、Anthropic自体も商業化圧力にさらされている、DeepMind内のalignmentチームも発言力が弱い
- 政府/学界:US AISIはまだ小さい、UK AISIは政治家に壊された、学界はガバナンスではなく論文を作る
私が見ている反コンセンサス的なシグナルは、レバレッジを持つ本物の安全研究者は企業の外、独立した評価能力を作れる場所にいるということだ。
- METR(Model Evaluation and Threat Research)——frontier modelの能力境界を独立に測定できる
- Apollo Research——モデルの欺挙や权力寻求行動の実証研究に特化
- Transluce——モデルの解釈可能性に取り組むスタートアップ
これらの組織に共通するのは:モデルを開発せず、モデルを評価するだけという点にある。その価値は「リスクを発見する」ことではなく、「すべてのモデル開発者がリリース前に必ずこちらのベンチマークを通さざるを得ない」という事実上の標準を作ることにある。それが定着すれば、トップ企業でも迂回はできなくなる。
今回と過去の違いは何か。過去の退任(Ilya、Jan Leike)は個人の選択だったが、今回はThe Guardian独占を選んだことで検証可能な具体的な出来事や制度上の取り決めが開示される可能性がある。もし報道が今後さらに詳細を出すなら——例えば内部の安全評価が否决された会議議事録、あるいはリリース前に短縮されたレッドチームのスケジュール表など——この件の影響は過去の退任よりずっと大きくなり得る。
現時点での不確実性:まだ早い段階で結論を出すのは早い。Guardianの報道は幹部の退任と「broken」という形容詞だけを示しており、今回の告白を引き金となった具体的な事象が何なのかは、HNの議論でも推測の域を出ない。全文が公開されて初めて判断できる——これはまたいつもの「OpenAI安全関係者が失望して去る」の繰り返しなのか、それとも本当に新しい何かが浮上したのか。
出典:
- The Guardian: OpenAI safety leader quits warning AI company's culture is 'broken'
- Hacker News item 49948332