2026 年 10 月 3 日,The Guardian 刊出一篇獨家報導:OpenAI safety leader quits warning AI company's culture is 'broken'。
安全高層離職、公開喊話文化「broken」——這條劇情在 OpenAI 已經上演到第三輪。距離 2023 年 11 月 Altman 被董事會罷免(隨後又復職)的風波,整整三年過去。
事件本身:誰走了,說了什麼
The Guardian 的報導目前看不到完整正文,只能根據 Hacker News 上的討論(item 49948332,首頁熱度 50 分、12 則留言)與既有的公開資訊,拼湊出幾個事實:
- 一位 OpenAI 安全/治理團隊的高層離職
- 選擇向 The Guardian 獨家爆料,而非默默離開
- 用「broken」這個詞形容公司文化——不是「concerning」、不是「needs work」,而是 broken
- 時間點:2026 年 10 月,Altman 風波三年後
把這條新聞放進 OpenAI 離職名單裡觀察,會看到一個反覆出現的模式:
- 2023 年 5 月,Ilya Sutskever 離開共同創辦人/首席科學家崗位(Altman 罷免案的核心人物)
- 2024 年 5 月,Jan Leike 離職,公開表示「safety culture has taken a backseat to shiny products」
- 2024 年 5 月,Ilya 宣布創辦 Safe Superintelligence Inc.
- 2026 年 10 月,又一位安全高層,這次直接說 broken
三年三個版本,措辭一次比一次尖銳。
為什麼這次不一樣:從沉默離職到公開喊話
前幾次離職,Ilya 和 Jan Leike 至少還在 Twitter(X)上發長文,留個餘地。措辭是「我擔心」、「我希望公司做得更好」、「這是艱難的決定」——聽得出來他們還是在乎 OpenAI 這個招牌。
這次直接是 broken。
broken 這個詞在英語語境中份量很重。broken promise(食言)、broken system(失靈的制度)、broken home(破碎的家庭)。它代表的是「不可修復」,而不是「需要改進」。
而且這次的管道選的是 The Guardian,不是個人 X 帳號。差別在哪?
- 個人 X:還是「我以個人身分表達看法」,主體是「我」
- The Guardian 獨家:代表這件事有了第三方背書,媒體願意署名報導,代表手上有證據——可能是內部文件、可能是多人證詞、可能是已經發生的具體事故
HN 留言裡有人直接問:「Is this the person who wanted more time for safety testing before a release?」——這種猜測本身就說明社群心裡已經有了某種既定劇本:有人想踩煞車,被按住了,然後離開。
我的判斷:這不是一個員工對老闆不滿的故事,而是一個在內部已經沒什麼值得留下的故事。
結構性問題:alignment-by-engineering 對上 alignment-by-marketing
大多數人看 OpenAI 安全問題,都會落在「具體誰該負責」上——是 Altman?是董事會?是被裁撤的 Superalignment 團隊?
但這是問錯問題。
真正的問題是一個激勵結構:
OpenAI 的商業模型 = AGI 承諾。
沒有 AGI,OpenAI 就只是一家估值 3000 億美元、營收 130 億、虧損 50 億的 chatbot 公司。有了 AGI 敘事,它才能繼續融到錢、簽下 Microsoft 算力合約、讓員工股票有出場管道。
對齊研究的商業模型 = 讓 AGI 慢一點到來。
每一次「我們還沒準備好,需要再等等」的安全聲明,都在直接削弱公司估值敘事的核心。
這兩條線結構性衝突。AGI 早來一天 = 成長敘事強一天 = 算力安全(來自 Microsoft、政府、軍方)強一天。對齊研究說「再等等」= 成長敘事弱一天。
公司必然選成長。
所以看到的結果是:
- Superalignment 團隊 2024 年 5 月解散,20% 算力承諾跳票
- Jan Leike 公開說「safety culture has taken a backseat」
- 現在又一位高層說 broken
這些不是個人選擇,是結構結果。alignment-by-engineering(工程驅動的對齊)在美國頭部 AI 公司已經失敗,剩下的是 alignment-by-marketing(行銷驅動的對齊)——發安全報告、寫 Responsible Scaling Policy 文件、搞 Frontier Model Forum,但不真的擋下 release。
國內大廠的鏡像問題
把視線拉回國內。
國內做對齊研究的人在哪?
我的直覺:產業界幾乎沒有全職對位的角色。
- 大廠的「安全團隊」基本上是內容安全(過濾政治敏感、暴力),不是 AI alignment(防止模型欺騙、防止權力尋求行為)
- 高校和科研院所有 RLHF、red team 論文,但產業界願意建獨立 alignment 團隊的不多
- 智源、字節 AI Lab、上海 AI Lab 有相關研究,但都不是 OpenAI 那種「20% 算力 + 直接向董事會匯報」的規格
為什麼不建?
因為 KPI 不允許。
國內大廠的模型團隊 KPI 是 DAU、呼叫量、營收。對齊團隊如果成功 = 「我們發現了 3 個 catastrophic risk,建議延後上線」——這條建議發出去,產品團隊的季度獎金就沒了。
這種結構性矛盾,不分國界。
OpenAI 的失敗不是美國特色,是任何把 AGI 當作成長敘事核心的公司都會面臨的失敗。差別只在於 OpenAI 把這件事公開演出來,國內大廠根本不會讓它走到「高層喊 broken」這一步——HR 會更早處理掉。
編輯思考
這件事為什麼重要——它不是「OpenAI 又一次負面新聞」。
真正的訊號是:AI 安全治理作為一條職涯路,正在被頭部公司親手證偽。
如果你是真有本事的 alignment 研究員(不是內容審核員),你的職涯選項在過去三年其實是縮小的:
- 頭部公司:位置被邊緣化,話語權被削弱,留下來的人要嘛妥協要嘛離開
- 獨立實驗室:MIRI 缺錢、Anthropic 自己也在商業化壓力下、DeepMind 內部 alignment 團隊的話語權也弱
- 政府/學界:US AISI 還小,UK AISI 已經被政客玩壞,學界做的是論文不是治理
我看到的反向訊號:真正握有槓桿的安全研究員,不在公司裡,而在能創造獨立評估能力的地方。
- METR(Model Evaluation and Threat Research)——能獨立測 frontier model 的能力邊界
- Apollo Research——專門做模型欺騙、權力尋求行為的實證研究
- Transluce——做模型可解釋性的新創公司
這些機構的共同點:不開發模型,只評估模型。它們的價值不在於「發現風險」,而在於「讓所有模型開發者在上線前必須經過它們的 benchmark」。一旦形成事實標準,頭部公司繞不開。
這次和過去哪裡不同?過去的離職(Ilya、Jan Leike)是個人選擇,這次選擇 Guardian 獨家代表可能會有具體可驗證的事件或制度安排被披露。如果後續報導放出更多細節(例如內部安全評估被否決的會議紀錄、例如上線前被壓縮的 red team 時程表),這件事的影響會比前幾次離職大得多。
我的不確定性:現在下結論還太早。Guardian 的報導只給了高層離職和「broken」這個形容詞,具體是什麼事件觸發這次發聲,HN 討論裡也都是猜測。等全文放出來才能判斷這次到底是又一次「OpenAI 安全人員失望離職」的老劇本,還是真的有新東西冒出來。
來源:
- The Guardian: OpenAI safety leader quits warning AI company's culture is 'broken'
- Hacker News item 49948332