의견

OpenAI 수석 안전 담당자 "조직 문화는 이미 깨졌다" — 구조적 모순인가, 개인적 드라마인가

2026년 10월, OpenAI 안전 책임자가 The Guardian에 회사의 조직 문화가 'broken'이라고 말했다. 3년 만에 세 번째 반복되는 같은 시나리오, 진짜 원인은 무엇일까?

글자 크기

OpenAI 안전 책임자 "조직 문화는 이미 깨졌다" — 구조적 모순인가, 개인적 드라마인가

2026년 10월 3일, The Guardian에 기사가 떴다. 제목은 OpenAI safety leader quits warning AI company's culture is 'broken'.

안전 고위직이 퇴사하면서 회사의 조직 문화를 "broken"이라 공개 비판하는 이 시나리오는, OpenAI에서 벌써 세 번째다. 2023년 11월 Altman이 이사회에서 해임됐다가 다시 복직한 사건을 기점으로, 딱 3년째 접어들었다.

무슨 일이 있었나: 누가 나갔고, 무엇이라 했나

The Guardian 원문 본문은 확보하지 못했고, Hacker News의 discussion(item 49948332, 프론트페이지 50포인트·12개 댓글)과 공개된 정보를 토대로 사실을 정리했다.

  • OpenAI 안전/거버넌스 팀의 고위 임원 한 명이 퇴사했다.
  • 그냥 조용히 나가지 않고 The Guardian에 단독으로 이야기를 흘렸다.
  • 회사 문화를 두고 "concerning"도, "needs work"도 아닌 "broken"이라는 단어를 골랐다.
  • 시점은 2026년 10월. Altman 사태 정확히 3년 뒤다.

OpenAI 퇴사자 명단을 시간순으로 놓고 보면 패턴이 보인다.

  • 2023년 5월: Ilya Sutskever가 공동 창업자/수석 과학자 자리에서 물러난다(Altman 해임 사태의 핵심 인물).
  • 2024년 5월: Jan Leike가 떠나며 "safety culture has taken a backseat to shiny products"라고 공개 발언한다.
  • 2024년 5월: Ilya가 Safe Superintelligence Inc. 창업을 공식 발표한다.
  • 2026년 10월: 또 다른 안전 고위 임원. 이번에는 "broken"이라는 단어.

3년 동안 세 차례, 한 번씩 단어가 더 무거워졌다.

이번이 다른 이유: 침묵이 아니라 공개 성토

이전 퇴사에서는 Ilya와 Jan Leike가 적어도 Twitter(X)에 장문의 글을 올리면서 상대의 체면은 지켜줬다. 표현도 "우려스럽다", "회사가 더 잘했으면 좋겠다", "어려운 결정이었다" 정도였으니, OpenAI라는 브랜드에 아직 마음이 남아 있다는 게 느껴졌다.

이번에는 바로 broken이다.

영어에서 broken은 무거운 단어다. broken promise(약속 파기), broken system(기능 마비된 제도), broken home(가정 붕괴). "개선이 필요한" 정도가 아니라 "복구 불가능"이라는 뉘앙스다.

그리고 채널을 개인 X가 아니라 The Guardian으로 골랐다는 점도 다르다.

  • 개인 X: 여전히 "내가 개인의견을 밝히는 것", 주어가 "나"다.
  • The Guardian 단독 보도: 제3자의 신뢰를 받았다는 뜻이다. 언론이 자기 이름을 걸고 보도하기로 했다는 건, 기자 손에 뭔가 있다는 의미다. 내부 문서일 수도, 다수 증언일 수도, 이미 일어난 구체적 사고일 수도 있다.

HN 댓글에서 누군가 이렇게 물었다. "Is this the person who wanted more time for safety testing before a release?" — 이런 추측이 이미 공유된다는 건, 커뮤니티가 어떤 시나리오를 기본값으로 깔고 있다는 뜻이다. 누군가 브레이크를 밟으려 했고, 눌렸고, 결국 나갔다는 줄거리.

판단컨대 이건 직원이 상사에 불만을 품었다 수준의 이야기가 아니다. 내부적으로 더 이상 남을 이유가 남아 있지 않다는 이야기다.

구조적 문제: alignment-by-engineering vs alignment-by-marketing

대부분의 사람은 OpenAI 안전 문제를 "누가 책임이 있느냐"로 끝낸다. Altman인가, 이사회인가, 해체된 Superalignment 팀인가. 근데 이건 잘못된 질문이다.

진짜 문제는 인센티브 구조에 있다.

OpenAI의 비즈니스 모델 = AGI 약속이다.

AGI라는 서사가 없으면 OpenAI는 시가 3000억 달러, 매출 130억, 적자 50억짜리 챗봇 회사에 불과하다. AGI 서사가 있어야 계속 자금 조달이 되고, Microsoft의 컴퓨트 계약이 유지되고, 직원 스톡옵션의 출구도 생긴다.

Alignment 연구의 비즈니스 모델 = AGI를 조금 느리게 오게 하는 것이다.

"아직 준비 안 됐다, 좀 더 기다리자"는 안전성 발언 한 번이, 회사 밸류에이션 서사의 핵심을 직접 깎는다.

이 두 라인은 구조적으로 충돌한다. AGI가 하루 빨리 오면 → 성장 서사가 하루 강해지고 → 컴퓨트 안보(Microsoft, 정부, 군에서 오는)도 강해진다. Alignment 연구가 "좀 더 기다리자"고 하면 → 성장 서사가 하루 약해진다.

회사는 당연히 성장을 선택한다.

그래서 보이는 결과가 이렇다.

  • Superalignment 팀이 2024년 5월 해체됨. 20% 컴퓨트 약속은 지켜지지 않았다.
  • Jan Leike가 "safety culture has taken a backseat"라고 공개 발언.
  • 이제 또 다른 임원이 broken이라 말한다.

이런 일들은 개인의 선택이 아니라 구조적 귀결이다. alignment-by-engineering(엔지니어링 중심 정렬)은 미국 빅 AI 회사들에서 이미 실패했고, 남은 건 alignment-by-marketing(마케팅 중심 정렬)이다 — 안전 보고서 발행, Responsible Scaling Policy 문서, Frontier Model Forum 활동. 하지만 실제 release를 막지는 않는다.

국내 대기업의 거울상 문제

视线을国内으로 돌려보자. 국내에서 alignment 연구를 하는 사람은 어디에 있나?

내 체감으로는: 산업계에는 풀타임으로 매칭되는 역할이 거의 없다.

  • 대기업의 "안전 팀"은 사실상 콘텐츠 안전(정치·폭력 필터링)이고, AI alignment(모델 거짓말, 권력 추구 행동 방지)은 아니다.
  • 대학과 연구원에는 RLHF, red team 논문이 있지만, 산업계에서 독립적인 alignment 팀을 만드는 경우는 드물다.
  • Zhipu AI, ByteDance AI Lab, Shanghai AI Lab 등에 관련 연구가 있긴 하지만, OpenAI식 "20% 컴퓨트 + 이사회 직보" 구성이 아니다.

왜 안 만들까? KPI가 허락하지 않으니까.

국내 대기업 모델 팀의 KPI는 DAU, 호출량, 매출이다. Alignment 팀이 성공하면 "치명적 위험 3건을 발견했고, 출시 연기를 권고한다"가 된다 — 이 권고가 나가면 제품 팀의 분기 인센티브가 사라진다.

이런 구조적 모순은 국경을 가리지 않는다.

OpenAI의 실패는 미국 고유한 현상이 아니다. AGI를 성장 서사의 핵심으로 둔 어떤 회사든 똑같이 부닥친다. 차이라면 OpenAI는 이걸 공개 무대에서 펼쳐 보였다는 점이고, 국내 대기업은 "고관이 broken을 외치는" 단계까지 가지도 않는다 — HR이 더 이른 단계에서 정리한다.

편집자 소견

이 사건이 왜 중요하냐면, "OpenAI의 또 다른 안 좋은 뉴스"가 아니기 때문이다.

진짜 시그널은 이거다: AI 안전 거버넌스가 하나의 직업 경로로서, 빅테크에서 사실상 기각되고 있다.

콘텐츠 모더레이터가 아니라 진짜 alignment 연구자라면, 지난 3년간 선택지가 사실상 좁아졌다.

  • 빅테크: 자리가 주변화되고, 발언권이 깎이고, 남는 사람은 타협하든가 떠나든가 둘 중 하나다.
  • 독립 연구소: MIRI는 자금 부족, Anthropic도 사업화 압박 아래, DeepMind 내부 alignment 팀의 발언력도 약하다.
  • 정부/학계: US AISI는 아직 작고, UK AISI는 정치인들 손에 망가졌고, 학계는 논문을 만들지 거버넌스를 만들지 않는다.

내가 보는 반(反)합의 시그널: 진짜 레버리지 있는 안전 연구자는 회사가 아니라, 독립적 평가 능력을 만들 수 있는 곳에 있다.

  • METR(Model Evaluation and Threat Research) — frontier model의 능력 경계를 독립적으로 측정한다.
  • Apollo Research — 모델 거짓말, 권력 추구 행동의 실증 연구 전문.
  • Transluce — 모델 해석 가능성을 만드는 스타트업.

이 기관들의 공통점: 모델을 개발하지 않고, 모델을 평가만 한다. 가치가 "위험을 발견하는 것"이 아니라 "모든 모델 개발자가 출시 전에 자기 벤치마크를 거치게 만드는 것"에 있다. 일단 사실상의 표준으로 자리 잡으면, 빅테크도绕不开 피할 수 없다.

이번이 과거와 뭐가 다른가? 과거 퇴사(Ilya, Jan Leike)는 개인 선택이었지만, 이번에 Guardian을 골랐다는 건 공개 가능한 구체적 사건 또는 제도적 사안이 같이 공개될 수 있다는 뜻이다. 후속 보도가 더 나오면(예: 내부 안전 평가가 기각된 회의록, 출시 전 축소된 red team 일정 등), 이번 사건의 영향은 이전 퇴사들보다 훨씬 클 것이다.

내 불확실성: 지금은 결론을 내기엔 이르다. Guardian 기사가 알려준 건 고위 임원 퇴사와 "broken"이라는 형용사뿐이고, 이번 발언을 촉발한 구체적 사건이 뭔지까지는 HN 토론도 추측 단계다. 원문 전문이 나와야 "또 OpenAI 안전 담당자 좌절 퇴사"의 옛 시나리오인지, 정말 새로운 게 수면 위로 올라온 것인지 판단할 수 있다.

출처:

출처: https://www.theguardian.com/technology/2026/oct/03/openai-safety-leader-quits-warning-ai-companys-culture-is-broken