產品

三星 zHBM 原型現身:把記憶體直接疊在 AI 加速器上,封裝戰場正式開打

HBM 戰場已經擠滿玩家,三星選擇另闢蹊徑:不拚堆疊層數,而是把記憶體直接蓋在加速器裸晶上。原型已亮相,但量產時程仍未明朗。

字級

HBM3E、HBM4 的新聞近半年幾乎被 SK 海力士和美光包辦。三星在正面戰場硬拼 12 層、16 層 DRAM die,短期勝算不大,於是換了一條路——zHBM (zoomed-in HBM)。原型剛曝光,但社群討論冷得異常。

以下把目前能確認的事和不能確認的事分開說明。

zHBM 和傳統 HBM 到底差在哪

傳統 HBM 的物理結構是這樣的:DRAM die 一層一層堆疊,透過 TSV(矽穿孔)互連,整個 stack 再透過一顆矽中介層(silicon interposer)或更先進的 RDL 扇出,和 GPU 或 ASIC 並排坐在同一塊封裝基板上。GPU 核心和 HBM 之間是「鄰居」,不是「疊在一起」。

zHBM 的核心改動一句話講完:把記憶體直接堆在 AI 加速器裸晶上方。

聽起來像把 HBM 倒過來用,但封裝邏輯完全不同:

  • 物理距離:傳統 HBM 透過 interposer 走線,訊號傳輸路徑較長;zHBM 是垂直堆疊,記憶體到計算單元的距離縮短一個數量級
  • 頻寬潛力:距離短 → 寄生電容低 → 可以在更低功耗下跑更高傳輸速率,或使用更寬的 I/O
  • 熱設計:雙刃劍——記憶體和邏輯晶片貼在一起,熱密度暴增,散熱方案必須重做
  • 封裝製程:不再是標準的 CoWoS / SoIC,需要更激進的混合鍵合(hybrid bonding)或新的 TSV-less 方案

簡單說,zHBM 賭的是「封裝創新比製程升級更便宜」。7nm、5nm 製程每代成本漲 30-50%,但換個封裝架構,可能用相對成熟的製程節點就能拿到效能提升。

為什麼三星選這條路,而不是拚堆疊層數

HBM 主賽道的牌局現況:

  • SK 海力士:HBM3 早進入量產,HBM3E 已批量出貨給 NVIDIA H200,12 層堆疊領先
  • 美光:HBM3E 24GB 12-Hi 去年開始送樣,2024 年中量產,NVIDIA B100/B200 雖然拿不到大頭但分到一塊
  • 三星:HBM3 量產時間晚,HBM3E 仍在追趕,12-Hi 進度落後對手

三星在 HBM 主戰場落後 1-2 個季度,這個代差短期內靠堆疊層數追不上(良率、產能、客戶驗證都需要時間)。

但三星手裡有一張牌:先進封裝。

三星在 FOPLP(扇出型面板級封裝)和 I-Cube(2.5D 封裝)上有積累,這是 SK 海力士和美光的相對短板。zHBM 走封裝路線,本質上是把戰場從「誰的 DRAM die 堆得多」換成「誰能把記憶體和計算更緊地縫在一起」。

這個打法能否繞開 HBM 介面標準(JEDEC 定義的實體層和協定)是另一個問題。傳統 HBM 必須相容 HBM3/HBM4 規範才能被 NVIDIA、AMD 的 GPU 直接採用。zHBM 如果是客製 ASIC 專用,就不需要走 JEDEC 標準,但客戶群會窄很多。

原型階段,別急著下結論

目前能確認的:

  • 三星確實發表了 zHBM 原型(來源:thelec.net 報導)
  • 封裝架構和堆疊方式不同於傳統 HBM
  • 定位為 AI 加速器專用

不能確認的:

  • 量產時間——原文未揭露,行業分析師估計 2026-2027 才有機會
  • 客戶名單——沒有任何公開的 design win
  • 具體頻寬數字——沒有公布,可能是「實驗室跑得出來」的水準,不是量產規格
  • 良率和成本——原型階段談這些沒意義
  • 是否真能繞過 HBM 介面標準——技術細節未公開

換句話說,現在下任何「三星要逆襲」或「HBM 要被顛覆」的結論,都是 PR 稿的複讀機。我們看到的只是工程訊號,不是產品訊號。

社群冷,但不該被忽略

Hacker News 上原帖只有 16 分、3 則留言。討論度低得異常,可能原因:

  • 原文是付費牆後的韓文英文混合報導,資訊密度低
  • 「三星又有新原型」對老讀者來說是高頻事件,邊際資訊量不大
  • 記憶體封裝的故事對軟體工程師天然無感

但這件事的底層問題——記憶體牆(memory wall)——是大模型訓練和推理的共同瓶頸。

看數據:H100 的 HBM3 頻寬 3.35 TB/s,但 LLM 推理時 KV cache 的存取模式經常讓頻寬利用率跑到 80% 以上。GPT-4 等級的模型,KV cache 單次推理可能要搬幾百 GB 資料。頻寬不夠,GPU 算力再強也只能空轉。

任何在封裝層面縮短記憶體-計算距離的嘗試,理論上都能對沖一部分記憶體牆壓力。就算只提升 30% 頻寬密度,對推理成本的影響也是結構性的。

所以這件事值得追蹤,即使現在熱度不高。

如果 zHBM 跑通,誰會先買單

猜測潛在客戶畫像,依可能性排序:

最可能:大模型推理晶片廠商

  • Groq 的 LPU 架構本身就採 SRAM-on-chip 路線,對低延遲記憶體極度飢渴
  • Cerebras 的晶圓級引擎已是極端的「計算貼記憶體」思路,zHBM 與他們的哲學一致
  • SambaNova、Tenstorrent 這類資料流架構廠商也是潛在客戶

次可能:HPC 和自研 ASIC 的雲端廠商

  • AWS Trainium2 / 3 已驗證客製晶片的可行性,若 zHBM 能把頻寬成本壓下來,AWS 有動機嘗試
  • Google TPU 已有自己的 HBM 供應關係,改封裝架構的遷移成本高
  • Microsoft Maia、Meta MTIA 都是潛在客戶,尤其是對推理 TCO 敏感的廠商

最不可能:傳統 GPU 廠商

  • NVIDIA 短期內不會改插槽和封裝設計,HBM 主供還是 SK 海力士
  • AMD MI300/MI325 走標準 HBM 路線,封裝架構已經定案

這意味著 zHBM 的市場定位更接近「客製加速器的記憶體方案」,而不是「通用 HBM 替代品」。市場天花板較低,但客戶單價可能更高,因為客製方案溢價空間大。

編輯思考

這件事被低估了,因為封裝創新在 AI 算力敘事裡一直處於「幕後」。過去十年,大家講製程(7nm、5nm、3nm)講得最多,講架構(GPU vs TPU)次之,講封裝的幾乎沒人聽。

但封裝層的權重正在上升。原因有三:

  1. 製程升級的邊際收益在遞減——3nm 到 2nm 的效能提升只有 10-15%,成本漲 30%+
  2. Chiplet 設計讓「拼裝」成為主流——單一 die 不再追求大顆,封裝層反而成為關鍵瓶頸
  3. 記憶體牆問題在 LLM 時代被放大——推理和訓練都對頻寬極度飢渴

zHBM 不是要取代 HBM,而是給客製晶片多一條路。這跟 NVIDIA 收購 Mellanox、AMD 收購 Pensando 是同一套邏輯:算力競爭的下半場,在系統層,不在晶片層。

我的判斷:如果三星能在 2026 年底前拿出可量產的 zHBM 並拿下至少一家頭部 AI 晶片廠商的設計訂單,封裝層會成為下一個被熱炒的賽道。否則,這件事很可能跟過去幾年的「三星 HBM 革命」新聞一樣,消失在從業者的 RSS 訂閱裡。

不確定的點:zHBM 的熱設計是個大問號。記憶體和邏輯晶片貼在一起,功耗密度可能突破 200W/cm²,現有散熱方案能不能扛住,目前沒有任何公開數據。這是一個可能讓整個方案崩盤的物理限制,值得持續追蹤。

來源: https://www.thelec.net/news/articleView.html?idxno=12835