觀點

記憶體飆漲 500%,AI 公司的算盤全打翻了

過去一年 DRAM 與 NAND 現貨價翻漲五倍,性價比倒退至 2007 年水準。靠堆 GPU 跑模型的成本邏輯,如今徹底算不攏。

字級

資料來源:Latent Space《Memory prices up 500% in 12 months》
連結:https://www.latent.space/p/ainews-memory-prices-up-500-in-12

500% 不是誇飾,是 Spot Price

看到這個數字時,我的第一反應是回頭檢查來源有沒有寫錯單位。

沒有寫錯。Latent Space 引述的現貨市場資料顯示:DRAM 與 NAND Flash 過去 12 個月漲幅達 500%。現貨價,spot price,不是期貨預期,也不是分析師喊價,而是上週實際成交的價格。

更殘酷的對比是性能/價格比。照這個趨勢下去,今年底的記憶體性價比將倒退回 2007 年的水準──也就是第一代 iPhone 發表的那一年。

儲存這個品類,過去十幾年一直靠著摩爾定律悄悄變便宜。沒人覺得它會漲價,也沒人在算 TCO 時把它當成主要變數。

現在得重新算了。

為何偏偏在此時炸開

記憶體漲價不是新鮮事,每隔幾年就來一輪。但這一輪的強度不同。三股力量撞在一起。

第一股,HBM 在搶產能。HBM(高頻寬記憶體)是 AI 加速卡專用的,每張 H100/H200/B200 都要搭幾組 HBM3e。HBM 採用先進封裝與更複雜的 Die Stacking 製程,占用的晶圓產能是普通 DRAM 的三倍。同一條產線做 HBM 就不能做 DDR5。三大原廠紛紛把一般 DRAM 產線切給 HBM,DDR5 供給被抽走,價格率先飆漲。

第二股,AI Capex 周期到來。OpenAI、Anthropic、Meta、Google 都在擴建叢集。xAI 那個 10 萬卡叢集已經上線,OpenAI 的 Stargate 計畫豪擲 1.8 兆美元。這些叢集每張卡都要配備 80GB 甚至 192GB HBM,需求是實打實的。

第三股,三大原廠聯手控產。Samsung、SK Hynix、Micron 這兩年默契控產,資本支出砍了又砍,產能擴張被刻意壓住。供給曲線被人為壓平。

HBM3e 與 HBM4 的產能,優先鎖給 Nvidia 與那幾家大客戶。中小買家排隊也排不到。這不是週期波動,而是結構性短缺。

堆 GPU 那套經濟模型垮了

過去兩年,AI 公司算訓練成本有個簡化模型:

總成本 ≈ GPU 採購 + 電費 + 機房 + 散熱

記憶體被當成 GPU 的附件,含在硬體成本裡,權重不大。

現在這個模型算不動了。HBM 在 AI 訓練硬體成本中的占比,從大約 20% �升至接近 40%。一張 B200 光 HBM 就吃掉上萬美元,物料成本(BOM)結構徹底改變。

更棘手的是頻�牆。GPU 算力每一代翻倍,但 HBM 頻寬跟不上。模型推理時,參數要從記憶體搬到計算單元,頻寬不夠,GPU 就空轉。Nvidia 在 GTC 2025 上自己都承認,B200 在許多推理 workload 上跑不到峰值 FLOPS,原因正是 HBM 頻寬成為瓶頸。

OpenAI、Anthropic 這種級別的玩家,TCO 表格這幾個月已經推倒重做了好幾輪。Anthropic CEO Dario Amodei 之前發過一張圖,指出訓練一個前沿模型的成本已經衝到 10 億美元級別。這還沒計入最新這輪記憶體漲價的數字。

MoE 架構的真正價值如今才浮上檯面:總參數量可以很大,但每次推理只啟動一小部分,正好對沖記憶體單價上漲。這也是 MoE 在 2024 年之後被所有玩家押注的根本原因。

MoE 與稀疏化反而成了救生圈

說件反直覺的事:這輪記憶體漲價,MoE 模型反而佔了便宜。

傳統 Dense 模型,70B 參數就是 70B 參數,每次推理全量載入,需要的顯存是固定的。DeepSeek-V3 671B 的總參數看起來嚇人,但它採用 MoE 架構,每次推理只啟動 37B,約 5.5%。Mixtral 8x7B 同理,啟動比例 12.5%。

這意味著同樣的硬體可以服務更多用戶,或者在同樣用戶數下,硬體投資直接砍掉一半以上。DeepSeek 自己揭露的 V3 訓練成本是 558 萬美元,對比 Llama 3.1 405B 訓練成本據估算接近 1 億美元。同等能力,成本相差兩個數量級。

核心邏輯如下:

Dense 模型:硬體成本 ∝ 總參數量
MoE 模型:硬體成本 ∝ 啟動參數量,與總參數量弱相關

記憶體越貴,MoE 的相對優勢越大。這也是為什麼 Nvidia 自己都在推 Minitron 這類稀疏化方案,連硬體廠都開始用軟體對沖硬體瓶頸。

誰會被擠出賽局

受衝擊的不只有巨頭。

中小模型公司:自己訓練模型、賣 API 的那種,硬體成本突然從可選項變成最大支出項。融資節奏跟不上價格漲幅的,要嘛漲價,要嘛關停。

自己搭建叢集的 startup:以為搞定 GPU 就能搞定一切,沒意識到 GPU 現在是整套系統裡最不緊缺的那個環節。

推理服務毛利率薄的應用層:Bot、Agent、垂直場景應用,全都靠低單價、高並發起家。記憶體漲價直接吃掉毛利。一個 chat session 原本毛利 30%,可能跌到 10% 以下。

Anthropic 那種級別可以靠拉高客單價攤薄,Cursor 那種可以把成本轉嫁給開發者。但中小玩家沒有這個定價權。

未來 12 個月看什麼

三個變數決定這輪漲價是 6 個月還是 3 年。

HBM4 產能。SK Hynix 與 Samsung 正在搶 HBM4 量產首發,Micon 也不落後。HBM4 單 stack 容量從 24GB 提升至 36–48GB,頻寬翻倍。若產能爬坡順利,2025 年底 HBM 每 GB 成本會下降,緩解但不會逆轉趨勢。

國產 DRAM 擴產。長鑫存儲(CXMT)DDR5 產能 2025 年擴至 6 萬片 wafer/月,長江存儲(YMTC)在 NAND 端也新增 3D NAND 產線。若能穩定供貨,將成為全球供給側的實質變數。問題是先進製程良率與穩定性,目前與三大原廠仍有 1–2 代差距。

ASIC 替代速度。Google TPU、AWS Trainium、Microsoft Maia 這些專用晶片,記憶體子系統自行定義,不受 HBM 通用市場影響。若 ASIC 路線跑通,Nvidia 通用 GPU 的定價權會被削弱,間接影響 HBM 議價能力。

我的判斷是:這輪記憶體漲價的尾巴至少持續到 2025 年 Q4。若 HBM4 順利 + 國產產能跟上 + ASIC 起量,三個條件全中,2026 年中可能見頂回落。任何兩個不如預期,會拖到 2027 年。

AI 公司過去兩年習慣了「算力越來越便宜」這個隱性前提。這個前提沒了。

以後再算 TCO,記憶體會是表格裡最大的一行。

來源: https://www.latent.space/p/ainews-memory-prices-up-500-in-12