見解

Nvidiaの堀はどこへ移ったのか——GPUより崩せないもの

Jensen Huangが次に切るのはH200ではなく、CUDA、DPU、そしてAI Factoryだ。競合はまだ的を外している。

文字サイズ

Jensen Huangが次に切るのはH200ではなく、CUDA、DPU、そしてAI Factoryだ。競合はまだ的を外している。

最近たまたま目にしたTechCrunchの記事、原題が端的だった:Nvidia's AI advantage is moving beyond the GPU。読み終えて感じたのは「Nvidiaがまた強くなった」ではなく、競合の大半がすでに時代遅れの戦いを繰り広げているという事実だった。

GPU単体の演算性能で言えば、AMDはほぼ追いついた。しかしNvidiaの堀は最初からシリコンにはなかった。


GPUはとっくにNvidiaの弱点

まず反直観的な事実から。和AMD/Intelの単カードTOPS競争は、今最も意味のない戦い方だ。

AMD MI300Xは2023年リリース、メモリ帯域はH100と同等クラス、FP16演算も肉薄している。それから2年が経ったが、なぜ顧客は一括乗り換えしないのか。

PyTorchのソースを見てほしい:

# PyTorch デフォルトのテンソルバックエンド
import torch
x = torch.randn(1024, 1024).cuda()  # .cuda() を書かなくても走るが、デフォルトは CUDA
print(torch.backends.cudnn.version())  # cuDNN のバージョン

torch.cuda はPyTorchの事実上の標準だ。この cuda は「Nvidiaのカードが動く」という意味ではなく、背後にcuDNN、cuBLAS、NCCL、そして十数万演算子の専用最適化が張り付いている。AMDがこの cuda 呼び出しを置き換えようとすれば、DLスタック全体を書き直す羽目になる。

MI300が演算性能で追いついてから2年。PyTorchのデフォルトbackendはまだCUDAのままだ。

真の堀はCUDAにある

ハードウェアは追上できるが、ソフトウェアのエコシステムは10年かかる。

NvidiaのCUDAは単一製品ではなく、互いに噛み合ったライブラリの集合体だ:

  • cuDNN:畳み込み、アテンション、正規化などDLプリミティブの最適実装
  • TensorRT:モデル推論オプティマイザ(量子化、カーネル融合)
  • NCCL:マルチカード/マルチノード集合通信、分散学習の生命線
  • Triton(GPU版):Nvidia自らが打ち出した中間層カーネル言語

開発者のロックインはどう生まれるか。PyTorchで F.conv2d(x, w) と書くと、内部で現在のGPUアーキテクチャ専用に手書きされたcuDNNのアセンブリが自動で呼ばれる。この「ゼロコスト」の性能が、ROCmへ移行した瞬間に消える。

オープンソースの代替はある。Triton、ROCm、Ascend Cが追っている。だが本番環境でモデルデモを動かすことと、1024枚規模で一ヶ月安定して学習を回すことは別の話だ。前者は週末で片付くが、後者はSREチームが一丸となって安定性を監視し続ける必要がある。

DPU + NVLink:戦場をネットワーク層へ広げる

CUDAはソフトウェア層の堀、Nvidiaの第二の堀はネットワークにある。

8カード搭載のH200ノードで、本当のボトルネックは何か。演算ではなく、GPU同士の通信速度だ。NVLinkの世代ごとの帯域は900GB/sから1.8TB/sへ拡大したが、AMDのInfinity FabricやIntelのXe Linkはまだ一桁違う。

さらに手強いのがBlueField DPUだ。NvidiaはNIC、ストレージコントローラ、セキュリティエンジンをArmコアのSoCに統合した。これにより:

  • ストレージからGPUへのデータパスで、CPUがコピーに介在しなくなった
  • 集合通信をDPUにオフロードし、メインGPUは演算に専念
  • マルチテナント分離とハードウェア層の暗号化を実現

この構成にIntel/AMDは事実上対抗製品を出していない。IntelのIPUとAMDのPensandoはまだ追従段階で、差分は年単位だ。

AI Factory:Nvidiaは「カード」を売り、「工場」を売る

最も過小評価されている変化は、Nvidiaのビジネスモデルだ。

かつて顧客はA100/H100を買ったが、今ではDGX SuperPOD、Foundry、NIMマイクロサービスを買う。典型的な契約はこうなる:

# NIM (Nvidia Inference Microservice) デプロイ例
from nvidia.nim import Llama3_8B_Instruct

model = Llama3_8B_Instruct(
    gpu="H200-80GB",
    replicas=8,         # 8カードでテンソル並列
    precision="bf16",   # bfloat16
    max_batch_size=64,
)
response = model.generate("NVLinkプロトコルを説明して")

顧客はNCCLの初期化を知る必要もなければ、RDMA NICを設定する必要もないし、CUDAカーネルを書く必要もない。ワンクリックで本番品質の推論サービスが立ち上がる。

スイッチングコストは「カードを替える」から「SREプロセス一式を刷新する」へ変わった。前者は数百万円、後者は億円規模だ。だから顧客は口ではNvidiaの高値に文句を言いつつ、身体は正直に動く。

中国ベンダーの誤解:まだ単カード演算を追いかけている

国内のAIチップブームで、Cambricon、Hygon、Moore ThreadsがFP16/INT8の演算性能で競合比較にしのぎを削っている。これは必要な一手だが、十分ではない。

本当の課題は、CUDAエコシステムが国内でほぼ手つかずであること。

開発者が欲しいのは「PyTorchが動く」ではない。CUDA上でPyTorchが動くようになってから10年経っている。彼らが欲しいのは「同じ速さで、同じくらい安定して、同じくらいバグが出ずに動く」ことだ。それには:

  1. PyTorch上流のコントリビュータと深い連携(forkではなくmain branchに入れる力)
  2. 主要LLM(Llama、Qwen、DeepSeek)の公式サポート
  3. クラスタを30日間無クラッシュで回しきる運用力

ハードウェアの対標は易しいが、エコシステムの対標は難しい。これが国内ベンダーにとって今後3年で最も深い堀の欠落になる。

編集部の見解

なぜこれが重要か。「AIチップ企業」の堀の定義が書き換わるからだ。

過去10年、デフォルトの前提は「より良いチップ = より良い堀」だった。Nvidiaは10年以上かけて、ソフトウェア、ネットワーク、システム統合という3層の複合優位が、単カード性能より遥かに崩しにくいことを証明した。

私見では、今後3年でNvidiaにとって最も危険な对手はAMD/Intelではなく、クラウド事業者の自社開発チップ + ソフトウェア抽象化層の連合だ。AWS Trainium 3、TPU v6、TenstorrentはNvidiaのシリコン事業を脅かすものではなく、「AI Factory」という物語を脅かす。もし顧客が「推論は自社チップ、学習はNvidia」というハイブリッド構成を受け入れ始めたら、Nvidiaの粗利率は削られる。

CUDAへの真の脅威は、Tritonのようなベンダー横断の抽象化層から来る可能性もある。TritonはOpenAI内部で全社的に長年使われてきたが、最近AMD/Intelにも開放され始めた。もしTritonが新しい「PyTorchバックエンド」になれば、NvidiaのcuDNN/NCCLロックが外される。ゆっくりとした変数だが、注視に値する方向だ。

不確実な点:Nvidia自身もこの潮流を認識しているので、NIM、Megatron-Coreなどさらに上位のロックポイントを一貫して推している。今後2年で「開発者のデフォルトスタック」を先に掴むのがTritonかNIMか、これが2028年の勢力図を決めるだろう。

原文:Nvidia's AI advantage is moving beyond the GPU

出典: https://techcrunch.com/2026/08/29/nvidias-ai-advantage-is-moving-beyond-the-gpu/