HBM3E, HBM4 관련 뉴스는 최근 반년 동안 사실상 SK하이닉스와 마이크론이 양분해왔다. 삼성이 정면으로 12층, 16층 DRAM die 적층에 나서는 건, 단기적으로 숫자 경쟁에서 이길 확률이 높지 않다. 그래서 선택한 전략이 zHBM (zoomed-in HBM). 프로토타입은 막 모습을 드러냈지만, 커뮤니티 반응은 의외로 차갑다.
아래에서는 현재 확인된 것과 확인되지 않은 것을 나눠 정리한다.
zHBM과 기존 HBM의 실제 차이
기존 HBM의 물리 구조는 이렇다. DRAM die를 한 층씩 쌓고, TSV(실리콘 비아)로 연결한 뒤, 그 stack 전체를 실리콘 인터포저(interposer) 또는 더 진보한 RDL 팬아웃을 통해 GPU/ASIC과 나란히 같은 패키지 기판 위에 올린다. GPU 코어와 HBM은 '이웃'이지 '적층' 관계가 아니다.
zHBM의 핵심 변화는 한 문장이다. 메모리를 AI 가속기 다이 위에 직접 쌓는다.
HBM을 뒤집어 쓴 것처럼 들리지만, 패키지 설계 관점에서는 완전히 다른 이야기다.
- 물리적 거리: 기존 HBM은 인터포저 배선을 거치므로 신호 경로가 상대적으로 길다. zHBM은 수직 적층이라 메모리-연산 유닛 거리가 한 자릿수 수준으로 줄어든다.
- 대역폭 잠재력: 거리 단축 → 기생 캐패시턴스 감소 → 더 낮은 전력으로 더 높은 전송 속도를 뽑거나, 더 넓은 I/O를 사용할 수 있다.
- 열 설계: 양날의 검이자. 메모리와 로직 칩이 붙어버리면 열밀도가 폭발하고, 냉각 설계를 처음부터 다시 해야 한다.
- 패키지 공정: 표준 CoWoS/SoIC만으로는 부족하고, 더 공격적인 하이브리드 본딩(hybrid bonding)이나 새로운 TSV-less 방식이 필요하다.
요컨대 zHBM은 "패키지 혁신이 공정 미세화보다 싸다"는 가정에 베팅하는 셈이다. 7nm, 5nm 공정은 세대마다 비용이 30~50%씩 오르지만, 패키지 구조를 바꾸면 상대적으로 성숙한 공정 노드에서도 성능 이득을 끌어낼 수 있다.
왜 삼성은 적층 층수가 아닌 다른 길을 택했나
HBM 메인 트랙의 현 상황을 정리하면 다음과 같다.
- SK하이닉스: HBM3 조기 양산, HBM3E는 NVIDIA H200에 이미 대량 공급 중이며 12층 적층에서 선두.
- 마이크론: HBM3E 24GB 12-Hi를去年부터 샘플링 시작, 2024년 중반 양산 예정. NVIDIA B100/B200의 메인 공급사는 아니지만 일부 물량을 가져간다.
- 삼성: HBM3 양산이 늦었고, HBM3E는 아직 쫓아가는 중. 12-Hi 일정은 경쟁사보다 뒤처져 있다.
삼성은 HBM 본진에서 1~2분기 어긋나 있고, 이 격차는 적층 층수만으로는短期内 따라잡기 어렵다. 수율, 생산 능력, 고객 검증이 모두 시간 문제이기 때문이다.
하지만 삼성에는 첨단 패키징이라는 카드가 있다. FOPLP(팬아웃 패널 레벨 패키징)와 I-Cube(2.5D 패키징)에서 쌓아온 역량이 SK하이닉스와 마이크론의 상대적 약점이다. zHBM이 패키지 루트를 택한 건, 본질적으로 전장을 "누가 더 많은 DRAM die를 쌓았나"에서 "누가 메모리와 컴퓨트를 더 밀착해缝(꿰맬) 수 있나"로 옮기려는 시도다.
이 접근이 HBM 인터페이스 표준(JEDEC이 정의한 물리 계층과 프로토콜)을 우회할 수 있느냐는 별개의 문제다. 기존 HBM은 HBM3/HBM4 규격을 따라야 NVIDIA, AMD GPU에 그대로 채택될 수 있다. zHBM이 커스텀 ASIC 전용이라면 JEDEC 표준을 따를 필요가 없고, 대신 고객 풀은 훨씬 좁아진다.
프로토타입 단계, 아직 흥분하기엔 이름다
현재 확인 가능한 사실은 다음과 같다.
- 삼성이 zHBM 프로토타입을 공개했다(출처: thelec.net 보도).
- 패키지 구조와 적층 방식이 기존 HBM과 다르다.
- AI 가속기 전용으로 포지셔닝된다.
확인되지 않은 것들.
- 양산 시기: 원문에 공개돼 있지 않고, 업계 분석가들은 2026~2027에나 가능할 것으로 본다.
- 고객 리스트: 공개된 디자인 위인이 전혀 없다.
- 구체적 대역폭 수치: 공개되지 않았으며, "연구실에서 나온" 수준일 가능성이 있다. 양산 스펙은 아닐 가능성이 높다.
- 수율과 비용: 프로토타입 단계에서 이걸 따지는 건 무의미하다.
- HBM 인터페이스 표준 우회 가능성: 기술 디테일이 공개되지 않았다.
즉 지금 "삼성 역전"이나 "HBM 판도 뒤집힌다"는 결론을 내리는 건 PR 자료를 그대로 베끼는 것과 다름없다. 보이는 건 제품 신호가 아니라 공학 신호에 불과하다.
커니티는 차가운데, 그래도 무시할 일은 아니다
Hacker News 원글은 포인트 16, 댓글 3개에 그쳤다. 평소보다 관심이 너무 적은데, 가능한 이유는 다음과 같다.
- 원문이 한국어/영어 혼합 유료 기사라 정보 밀도가 낮다.
- "삼성 신작 프로토타입"은 이미 익숙한 뉴스라서 새로운 정보량이 적다.
- 메모리 패키지 이야기는 소프트웨어 엔지니어 입장에서 본능적으로 거리감 있다.
하지만 이 사건이 건드리는 저면 이슈인 메모리 월(memory wall)은 대규모 모델 학습과 추론의 공통 병목이다.
데이터를 잠깐 보자. H100의 HBM3 대역폭은 3.35 TB/s이지만, LLM 추론 시 KV cache 접근 패턴이 대역폭 사용률을 80% 이상으로 몰아붙이는 경우가 흔하다. GPT-4 급 모델의 추론 한 번에 KV cache가 수백 GB를 휘젓고 다닌다. 대역폭이 모자라면 GPU 연산 능력은 결국 놀게 된다.
패키지 레벨에서 메모리-컴퓨트 간격을 좁히려는 모든 시도는, 이론적으로 메모리 월의 일부를 상쇄할 수 있다. 대역폭 밀도가 30%만 개선돼도 추론 비용에 미치는 영향은 구조적이다.
지금 화제성은 낮더라도, 계속 추적할 가치는 충분하다.
zHBM이 길을 찾으면 누가 먼저 살까
잠재 고객 프로필을 가능성 순으로 추려봤다.
가장 가능성 높은 그룹: 대규모 모델 추론 칩 벤더
- Groq의 LPU 아키텍처는 본래 SRAM-on-chip 방식을 취하므로 저지연 메모리에 굶주려 있다.
- Cerebras의 웨이퍼 스케일 엔진은 이미 "컴퓨트를 메모리에 붙이는" 극단적 사상인데, zHBM과 철학이 맞다.
- SambaNova, Tenstorrent 같은 데이터플로우 아키텍처 업체도 잠재 고객이다.
다음으로 가능성 있는 그룹: HPC와 자체 ASIC을 쓰는 클라우드 업체
- AWS Trainium2 / 3은 커스텀 칩의可行性을 이미 검증했다. zHBM이 대역폭 비용을 끌어내린다면 AWS가 먼저 시도할 이유가 충분하다.
- Google TPU는 이미 자체 HBM 공급 관계가 있어서 패키지 구조를 바꿀 때 마이그레이션 비용이 크다.
- Microsoft Maia, Meta MTIA도 잠재 고객이며, 특히 추론 TCO에 민감한 업체일수록 유인도가 크다.
가능성이 가장 낮은 그룹: 전통 GPU 벤더
- NVIDIA는 당분간 소켓과 패키지 설계를 바꾸지 않을 것이고, HBM 메인 공급은 여전히 SK하이닉스.
- AMD MI300/MI325는 표준 HBM 루트로 가고 있어 패키지 구조가 이미 굳어졌다.
이게 의미하는 건, zHBM의 시장 포지션이 "범용 HBM 대체품"이 아니라 "커스텀 가속기용 메모리 솔루션"에 더 가깝다는 점이다. 시장 천장 자체는 낮지만, 커스텀 솔루션 프리미엄 덕에 고객당 단가가 더 높을 수 있다.
편집자 생각
이 사건이 과소평가되는 이유는, 패키지 혁신이 AI 컴퓨트 담론에서 항상 "뒷단"에 머물러 왔기 때문이다. 지난 10년간 가장 많이 들린 건 공정(7nm, 5nm, 3nm) 이야기, 그다음이 아키텍처(GPU vs TPU), 패키지는 거의 화제에 오르지 않았다.
하지만 패키지 레이어의 무게가 점점 커지고 있다. 이유는 세 가지다.
- 공정 미세화의 한계 효용이 줄어들고 있다. 3nm → 2nm 성능 향상은 10~15%에 그치는데 비용은 30% 이상 오른다.
- Chiplet 설계가 조립형 칩을 표준으로 만들면서, 단일 die가 거대해지려 하기보다 패키지 레이어가 핵심 병목이 됐다.
- LLM 시대에 메모리 월 문제가 확대됐다. 추론과 학습 모두 대역폭에 굶주려 있다.
zHBM은 HBM을 대체하는 게 아니라, 커스텀 칩에 새로운 경로를 추가하는 시도다. NVIDIA가 Mellanox를 인수하고, AMD가 Pensando를 인수한 것과 같은 논리다. 컴퓨트 경쟁의 후반전은 칩 레이어가 아니라 시스템 레이어다.
내 판단: 삼성이 2026년 말까지 양산 가능한 zHBM을 내고, 최소 한 곳의 주요 AI 칩 업체에서 디자인 위인을 따낸다면, 패키지 레이어가 다음 화제주로 떠오를 것이다. 그렇지 않으면 이 사건도 지난 몇 년간 반복된 "삼성 HBM 혁신" 뉴스처럼 RSS 피드 속에서 묻힐 가능성이 높다.
불확실한 지점: zHBM의 열 설계가 가장 큰 변수다. 메모리와 로직 칩이 붙으면 전력 밀도가 200W/cm²를 돌파할 수 있는데, 기존 냉각 솔루션이 이를 감당할 수 있는지는 공개된 데이터가 전혀 없다. 전체 전략을 무너뜨릴 수 있는 물리적 제약이라 계속 추적할 만하다.