어제 SemiAnalysis의 유료 리포트가 공개된 뒤 업계가 사실상 폭발했다. Bloomberg이 동시 보도했고, HN 게시글이 1위에 올랐다(213점 / 댓글 147개). 제목도 적나라했다 — 「OpenAI's Jalapeño Better Than Nvidia Blackwell」. 그저 또 하나의 「AI 회사 자작 칩」 홍보물이 아니다. 아래에서 하나씩 뜯어본다.
Jalapeño는 무엇인가: 칩이 아니라 OpenAI의 보험
흔한 오해를 먼저 정리하자. Jalapeño는 OpenAI가 판매용으로 내놓는 컨슈머 GPU도, H100/B200 같은 범용 학습 카드를 겨냥한 제품도 아니다. OpenAI 내부 전용 추론 가속기로, 설계 목표 처음부터 「PyTorch 학습 돌리기」가 아니라 「토큰을 가장 싸게 뽑아내기」였다.
SemiAnalysis가 공급망 쪽에서 무게가 있다는 건 빈말이 아니다 — 이 기관은 TSMC产能分配, HBM3e 출하, 첨단 패키징 경로에 대한 보도 적중률이 매우 높다. 그들이 Jalapeño를 Blackwell과 직접 비교할 때 쓰는 축은 FP16 TFLOPS가 아니라 다음과 같다:
- 생성 토큰당 비용(cost per generated token)
- 와트당 성능(perf/W)
- 추론 처리량(tokens/sec at p99 latency)
다시 말해 OpenAI는 Nvidia와 「누가 더 강한가」를 비교하는 게 아니라 「누가 추론을 더 싸게 굴리는가」를 비교하는 것이다. 이건 완전히 다른 문제다.
또 하나. Jalapeño라는 코드네임은 OpenAI 내부에서 최소 3년 전부터 존재했다고 전해진다. GPT-5 추론 비용을 못 감당하고 나서야 움직인 게 아니라, 진작에 베팅했고 이제 공개할 시점이 된 것이다.
왜 이번 SemiAnalysis 폭로가 무거운가
반도체 업계에는 암묵의 서열이 있다. 「XX 회사 자작 칩 한다」는 뉴스면 일단 30% 깎아서 듣는다. 그런데 SemiAnalysis가 내놓은 정보는 기본적으로 80% 신뢰도로 다룬다. 이 기관은 TSMC N3/N2 공정의 실제 투입 데이터를 갖고 있고, ASML 노광 장비 출하량을 역산해 연산 capacity를 뽑아낸다.
이번 폭로가 신뢰도를 갖는 건 여러 신호가 겹쳤기 때문이다:
- SemiAnalysis 유료 페이월 원문(제목에 「Better Than Nvidia Blackwell」이라 박아둠. 이런 말을 함부로 쓰지 않는다)
- Bloomberg 동시 단독(공식 기자의 보증)
- HN 커뮤니티 업계인 교차 검증(댓글에 ASIC 엔지니어가 OpenAI IP block 설계 방향 확인)
- 타이밍 일치(Jalapeño立项 3년 + Blackwell 양산 타임라인 → 이제 「준비됐다」는 시점)
아무 블로그나 하나 썼다면 이 글 아무도 안 봤을 것이다. 세 채널이 동시에 터졌다는 건, 이게 단순 leak이 아니라 OpenAI가 의도적으로 흘린 정보라는 뜻이다. 다만 확성기로 SemiAnalysis를 쓴 거다.
OpenAI의 연산 장부: Nvidia 영수증은 얼마나 비싼가
「Blackwell급 성능」이라는 단독 표면만 봐서는 답이 안 나온다. Jalapeño의 전략적 의미를 이해하려면 먼저 OpenAI가这几年 Nvidia에 얼마를 썼는지 봐야 한다.
기존에 공개된 기준을 보면:
- OpenAI의 Nvidia 컴퓨팅 구매 약속은 2025~2030년 누적 1,000억 달러 이상 규모
- B200 서버 1세트整机 비용 약 3~4만 달러, 8-GPU 노드 한 대는 25~30만 달러
- 추론에서 1,000토큰당 매출총이익의 상당 부분이 GPU 감가상각 + 전기요금에 잠식됨
대충 계산해보자. OpenAI 연 추론 호출이 수천억 토큰 규모라고 치면, 토큰당 하드웨어 비용을 단 10%만 절약해도 연간 수십억 달러다. 이 돈이면 중형 칩 회사 하나 차릴 수 있다.
ROI가 맞는 이유가 바로 이것이다 — 성능 초월이 아니라 경제 모델 자체를 다시 쓰는 문제. 토큰 볼륨이 충분히 크면, 자작 칩의 초기 투자(NRE, 테이프아웃, 검증, 컴파일러)를 토큰당으로摊하면 Nvidia 카드를 사는 것보다 오히려 싸진다.
구글이 TPU 노선을 선택한 것도 같은 계산이었다. OpenAI는 지금 같은 시험지의 복사본을 풀고 있는 셈이다.
Nvidia가 정말로 무너질까: 세 가지 반(反)합의적 판단
이런 시점엔 보통 「Nvidia 끝났다」「해자 무너졌다」가 나온다. 내 판단은 반대다. 세 가지 반(反)합의적 견해는 다음과 같다.
판단 1: Jalapeño 성공은 오히려 Nvidia의 해자를 강화한다.
역설적으로 들리지만 Google TPU 역사를 보라:
- 구글이 TPU를 자작해도 10년 동안 Nvidia를 죽이지 못했다
- Nvidia는 오히려 고객을 「모든 회사」에서 「Google이 아닌 모든 회사」로 재편했다
- TPU가这条路의 실행 가능성을 증명한 뒤, 오히려 더 많은 회사가 GPU를 berani하게 쓰기 시작했다. 단일 벤더 종속을 피할 수 있다는 걸 알았기 때문이다
OpenAI가 Jalapeño를 성공시키면 신호는 「자작은 가능하다」다. 이러면 미드필드(Anthropic, xAI, Meta)가 자기 ASIC 계획을 가속화하지만, 동시에 그 회사 90%는 양산까지 못 가고 결국 Nvidia로 돌아온다. Nvidia는 고객 하나를 잃는 대신, 열 개 회사가 GPU를敢 쓸 자신감을 얻는다.
판단 2: 진짜 피해자는 Nvidia가 아니라 AMD와 Intel이다.
AMD MI300/MI400의 최근 2년 전략은 「Nvidia를 못 이기면 차선 고객을 가져온다」였다. 그런데 Jalapeño가 그 「차선 고객」 레이어마저 가져간다 — OpenAI가 자작을 시작하면 남은 고객 중 예산이 가장 크고 프리미엄 가격을 기꺼이 낼 회사들이 스스로 자작을 시작한다.
AMD가 기대했던 「Anthropic, xAI, 유럽 클라우드」 같은 고객들도 Jalapeño 비슷한 걸 만들고 있다. AMD는 위로는 Nvidia에 밀리고 아래로는 자작 고객을 못 잡는 샌드위치가 된다.
판단 3: 「Blackwell 성능 대등」이라는 말은 그대로 믿으면 안 된다.
SemiAnalysis의 클릭베이트는 「Better Than Blackwell」이다 — 하지만 그 「Better」가 뭔지 봐야 한다. 「OpenAI 자체 워크로드에서 토큰당 더 싸다」면 사실이다. 그런데 이 「better」는 다른 어떤 고객의 워크로드로도 옮길 수 없다.
Jalapeño는 NVLink도 없을 수 있고, CUDA 호환 레이어도 없을 수 있고, FP8 학습 지원도 없을 수 있다. OpenAI의 트랜스포머 커널 + 특정 배치 사이즈에만 최적화돼 있을 가능성이 크다. 그 카드를 살 수도 없고, 쓸 수도 없다. 이런 관점에서 Nvidia가 파는 건 원래부터 「가장 좋은 칩」이 아니라 「가장 범용적인 프로그래밍 플랫폼」이었다.
편집자 소견
Jalapeño의 진짜 의미는 그 칩 자체가 아니라 「AI 회사의 연산 수직통합」을 Google만의 사례에서 복제 가능한 패턴으로 만들었다는 데 있다.
지난 10년간 「나는 빅모델이 있다」의 해자는 「나는 GPU가 있다」였다. 이제 해자가 두 층으로 쪼개졌다: 컴퓨팅 + 칩. 칩 층을 내부에서 해결할 수 있게 되면, 모델 회사의 차별화는 다시 「데이터 + RLHF + 제품」으로 돌아간다 — 이건 Nvidia가 보고 싶지 않은 시나리오다.
2027년에 대한 구체적 예측 (불확실성 30% 남겨둠):
- 상위 5대 모델 회사 중 최소 3개사가 자체 추론 ASIC을 갖는다(OpenAI는 확정, Anthropic과 xAI가 진행 중)
- Nvidia 점유율은 크게 떨어지지 않지만, 매출총이익 구조는 변한다 — 순수 하드웨어 판매에서 「하드웨어 + 네트워크 + 추론 프레임워크」 패키지로 전환
- AMD MI 시리즈 출하량은 2025년 낙관 전망보다 낮다. 자작 칩이 기존 예상 고객을 가져가기 때문
- 새로운 틈새 시장이 열린다: 「자작 ASIC」 회사에 IP block, 컴파일러, HBM配套를 제공하는 소규모 회사들. 과거 RISC-V 생태계 주변에서 나왔던 기회와 비슷하다
명시해야 할 불확실성: OpenAI 이 카드의 실제 수율,产能, TCO 데이터는 현재 모두 블랙박스다. SemiAnalysis 폭로가 OpenAI가 시장을 상대로 띄운 기대관리 풍선일 수도 있다. 구체적인 디테일은 2026년 말 OpenAI财报에披露될「infrastructure cost per token」과 Nvidia GTC 2027에서의 대응을 보고서 판단해야 한다.
어쨌든 「AI 회사 + 자작 칩」이라는 곡선은 이미 되돌릴 수 없다.