2026 年 10 月 3 日,The Guardian 发了一篇独家:OpenAI safety leader quits warning AI company's culture is 'broken'。
安全高管离职、对外喊话文化"broken"——这条剧情在 OpenAI 已经演了第三遍。距离 2023 年 11 月 Altman 被董事会罢免(又被复职)的风波,刚过去三年。
事件本身:谁走了,说了什么
The Guardian 的报道我没看到完整正文,只能根据 Hacker News 上的讨论(item 49948332,首页热度 50 积分、12 条评论)和已有信息拼出几个事实:
- 一位 OpenAI 安全/治理团队的高管离职
- 选择对 The Guardian 独家发声,而非沉默走人
- 用了"broken"这个词形容公司文化——不是"concerning"、不是"needs work",是 broken
- 时间点:2026 年 10 月,Altman 风波三年后
把这条新闻放进 OpenAI 离职名单里看,你会发现一个模式:
- 2023 年 5 月,Ilya Sutskever 离开联合创始人/首席科学家位置(Altman 罢免案核心人物)
- 2024 年 5 月,Jan Leike 离职,公开说"safety culture has taken a backseat to shiny products"
- 2024 年 5 月,Ilya 官宣创办 Safe Superintelligence Inc.
- 2026 年 10 月,又一位安全高管,这次说 broken
三年三个版本,措辞一次比一次重。
为什么这次不一样:从沉默离职到公开喊话
前几次离职,Ilya 和 Jan Leike 至少还在 Twitter(X)上发长文,留个体面。措辞是"我担心"、"我希望公司做得更好"、"这是艰难的决定"——你听得出来他们还在乎 OpenAI 这个品牌。
这次直接是 broken。
broken 这个词在英语语境里很重。broken promise(食言)、broken system(失灵的制度)、broken home(破裂的家庭)。它意味着不可修复,不是"需要改进"。
而且这次渠道选了 The Guardian,不是个人 X。区别在哪?
- 个人 X:还是"我作为个人在表达观点",主体是"我"
- The Guardian 独家:意味着这件事有了第三方背书,媒体愿意署名报道,说明手里有料——可能是内部文件、可能是多人证词、可能是已经发生的具体事故
HN 评论里有人直接问:"Is this the person who wanted more time for safety testing before a release?"——这种猜测本身就说明社区已经默认了某种剧情:有人想刹车,被按住了,然后走了。
我的判断:这不是一个员工对老板不满的故事,而是一个在内部已经没什么能让人留下的故事。
结构性问题:alignment-by-engineering vs alignment-by-marketing
大多数人看 OpenAI 安全问题,都会落在"具体谁该负责"上——是 Altman?是董事会?是那个被裁的 Superalignment 团队?
但这是错的问题。
真正的问题是一个激励结构:
OpenAI 的商业模型 = AGI 承诺。
没有 AGI,OpenAI 就是一个估值 3000 亿美元、收入 130 亿、亏损 50 亿的 chatbot 公司。有了 AGI 叙事,它才能继续融到钱、签下 Microsoft 算力合约、让员工股票有退出渠道。
对齐研究的商业模型 = 让 AGI 慢一点来。
每一次"我们还没准备好,需要再等等"的安全声明,都在直接削弱公司估值叙事的核心。
这两条线结构性冲突。AGI 早来一天 = 增长叙事强一天 = 算力安全(来自 Microsoft、政府、军方)强一天。对齐研究说"再等等" = 增长叙事弱一天。
公司必然选增长。
所以你看到的结果是:
- Superalignment 团队 2024 年 5 月解散,20% 算力承诺没兑现
- Jan Leike 公开说"safety culture has taken a backseat"
- 现在又一位高管说 broken
这些不是个人选择,是结构结果。alignment-by-engineering(工程驱动的对齐)在美国头部 AI 公司已经失败,剩下的是 alignment-by-marketing(营销驱动的对齐)——发安全报告、做 Responsible Scaling Policy 文档、搞 Frontier Model Forum,但不真拦 release。
国内大厂的镜像问题
把视线拉回国内。
国内做对齐研究的人在哪儿?
我的体感:在工业界几乎没有全职对位的角色。
- 大厂的"安全团队"基本是内容安全(过滤涉政、涉暴),不是 AI alignment(防止模型欺骗、防止权力寻求行为)
- 高校和科研院所有 RLHF、red team 论文,但工业界愿意建独立 alignment 团队的不多
- 智源、字节 AI Lab、上海 AI Lab 有相关研究,但都不是 OpenAI 那种"20% 算力 + 直接向董事会汇报"的配置
为什么不建?
因为 KPI 不允许。
国内大厂的模型团队 KPI 是 DAU、调用量、收入。对齐团队如果成功 = "我们发现了 3 个 catastrophic risk,建议延迟发布"——这条建议发出去,产品团队的季度奖金就没了。
这种结构性矛盾,不分国界。
OpenAI 的失败不是美国特色,是任何把 AGI 当增长叙事核心的公司都会面临的失败。区别只是 OpenAI 把这件事公开演出来了,国内大厂根本不会让它发生到"高管喊 broken"这一步——HR 会更早处理。
编辑思考
这件事为什么重要——它不是"OpenAI 又一次负面新闻"。
真正的信号是:AI 安全治理作为一个职业路径,正在被头部公司证伪。
如果你是一个有真本事的 alignment 研究员(不是内容审核员),你的职业选项在过去三年实际收窄了:
- 头部公司:位置被边缘化,话语权被削减,留下来的人要么妥协要么走
- 独立实验室:MIRI 缺钱、Anthropic 自己也在商业化压力下、DeepMind 内部 alignment 团队的话语权也弱
- 政府/学界:US AISI 还小,UK AISI 已经被政客玩坏了,学界做的是论文不是治理
我看到的反共识信号:真正有杠杆的安全研究员,不在公司里,而在可以创建独立评估能力的地方。
- METR(Model Evaluation and Threat Research)——能独立测 frontier model 的能力边界
- Apollo Research——专做模型欺骗、权力寻求行为的实证研究
- Transluce——做模型可解释性的创业公司
这些机构的共同点:不开发模型,只评估模型。它们的价值不在于"发现风险",而在于"让所有模型开发者在 release 前必须经过它们的 benchmark"。一旦形成事实标准,头部公司绕不开。
这次和过去哪些不同?过去的离职(Ilya、Jan Leike)是个人选择,这次选择 Guardian 独家意味着可能有具体可验证的事件或制度安排被披露。如果报道后续放出更多细节(比如内部安全评估被否决的会议纪要、比如 release 前被压缩的 red team 时间表),这件事的影响会比前几次离职大得多。
我的不确定:现在下结论还早。Guardian 的报道只给了高管离职和"broken"这个形容词,具体什么事件触发这次发声,HN 讨论里也都是猜测。等全文放出来才能判断这次到底是又一次"OpenAI 安全人员失望离职"的老剧本,还是真的有什么新东西浮出水面。
来源:
- The Guardian: OpenAI safety leader quits warning AI company's culture is 'broken'
- Hacker News item 49948332