观点

OpenAI 安全团队集体离职:AGI 公司治理出了什么事

前 OpenAI 安全团队成员在 The Atlantic 署名发文,亲述离职经过。142 点 / 412 条 HN 评论讨论的不是八卦,是 AGI 公司治理、文化、安全工程的一次结构性撕裂。

字号

The Atlantic 10 月发了篇署名长文,标题很直白:"I quit OpenAI because its culture is broken"。不是匿名爆料,作者用自己职业生涯背书。

这条新闻上了 Hacker News 首页,142 点 / 412 条评论(item id=49944227),The Guardian 同周转载做了二次扩散。点开评论区你会发现,大家吵的不是"某个人离职"这种八卦,而是更底层的问题:一家要做 AGI 的公司,内部到底是怎么治理的。

不是一个人,是一封公开辞职信

这件事的特殊性,在形式。

过去大厂离职的人,通常走这三条路:

  • 领英更新一下 title
  • 给媒体匿名爆料
  • 去 Glassdoor 写匿名差评

这次不一样。当事人直接在 The Atlantic 上署名发文,讲的是一群人走了。为什么走,走得怎么不体面,公司内部对安全这件事到底是什么态度——全摊在阳光下。

这不是个人英雄主义,是把内部矛盾直接搬到公共舆论场。

安全团队在 AGI 公司到底干什么

很多人对"安全团队"的想象是错的。

它不是:

  • 合规部门
  • 公关部门
  • 写政策文档的 legal team

它是:研究模型风险、对齐、滥用检测、红队测试的内部技术力量。说人话——他们要给新模型踩刹车,告诉公司这个能力放出去会不会出事。

这层人走了,意味着什么?意味着以后 GPT 下一代上线前,没人用专业视角告诉你:"这个能力放出去会不会被滥用"、"这个 jailbreak 我们能兜住吗"。

产品照发,发布会照开,只是没人踩刹车了。

为什么"公开辞职信"是大杀器

离职这事,公司最怕的不是人走,是带着故事走。

这次的发声渠道选得很有讲究:

  • The Atlantic:老牌深度报道阵地,投资人、监管都会看
  • 署名:作者用自己职业生涯背书,分量翻倍
  • 长文:有细节有时间线,经得起 fact-check

这套组合拳打下来,对 OpenAI 的负资产是:

维度 影响
声誉 投资者会问"你们治理有问题吗"
招聘 顶尖候选人开始要更高的尽调溢价
监管 未来 FTC / EU AI Office 调查有了具体抓手
客户 大客户安全审查时会问"你们安全团队稳吗"

一句话:这不是八卦,这是实质性损害。

AGI 公司的结构性死循环

讲个反共识视角:OpenAI 不是不想做安全,而是做不了。

逻辑是这样的:

  1. 营收要增长 → 必须发新模型
  2. 竞争对手在追(Anthropic、Google DeepMind) → 模型迭代周期被压到 3-6 个月
  3. 安全研究、对齐、红队测试 → 每项都要时间,认真做会拖慢进度 2-4 周
  4. 产品线 + 商业化团队压力 → "这个风险能不能先发,我们后面补"

这不是文化问题,是KPI 决定的。

安全团队越认真,产品上线越慢;上线越慢,营收掉越多;营收掉越多,安全团队的预算和话语权越小。

死循环。

你给安全团队换 10 个 VP 都没用,因为矛盾在结构里。

对其他 AGI 公司的传染效应

OpenAI 不会是最后一个。

AGI 这个圈子就这么点人——OpenAI、Anthropic、Google DeepMind、Meta AI 之间互相跳。安全这个细分赛道更窄,可能就是几百人的池子。

OpenAI 这批人出来后,大致去向:

  • 一部分去 Anthropic:Anthropic 一向把安全当卖点,正好接盘
  • 一部分去 DeepMind:Google 的安全研究传统还在
  • 一部分去 startup:做 alignment 专门服务,或 RAI 工具
  • 一部分直接退出:去大学、政策智库

接下来 12 个月的招聘格局会变成:AGI 公司招安全人才,会用 OpenAI 这件事当面试题——"你怎么看 OpenAI 那次离职"。

这场仗,正在从"谁模型更强"变成"谁不会从内部炸开"。

编辑思考

这件事的真正信号不是"OpenAI 不行了"。

OpenAI 的模型能力、商业化进度、估值,大概率不会因为这件事伤筋动骨——大模型这行有自我修复能力,人才走了能再招,文化裂了能再包装。

更深的问题是这个:AGI 行业普遍面临的治理成熟度问题,第一次被公开摆到台面上。

我们正在见证一个新兴行业的第一次系统性内部危机。它的处理方式——OpenAI 怎么回应、其他公司怎么预防、监管怎么介入——会成为后续所有 AGI 公司的模板。

这次和过去互联网公司的危机不一样。2018 年 Facebook 数据泄露、2021 年 Uber 性骚扰,都是单一公司的问题。OpenAI 这次,是整个 AGI 赛道的结构性问题——所有想做出超人类智能的公司,都要面对同一个矛盾:研发速度 vs 安全保障。

我的判断是:接下来 18 个月,我们会看到至少 1-2 家 AGI 公司爆出类似的内部危机。不是因为他们更糟,是因为这个行业还没建立起成熟的自我约束机制。

不确定的地方:目前公开信息来自 The Atlantic 一篇署名文章,我们不知道其他离职者的版本是什么。OpenAI 自己也没正式回应——这种沉默本身就是一个信号。

参考资料:

来源: https://www.theatlantic.com/technology/2026/10/openai-safety-team-resignation/688881/?gift=v5U_UzUTothfWXsPxtvNVAh7esWToMRD6XnbXmc5WgA