GLMチーム(z.ai/智譜の海外ブランド)が数日前に「GLM built its inference infrastructure」を公開し、推論スタックを阿里雲から自社インフラへ移管すると発表した。この投稿はHacker Newsで169ポイントと131件のコメントを獲得し、フロントページのトップに並んだ。
情報源:z.ai/blog/glm-built-its-inference-infrastructure
大手モデル企業が推論スタックを自前で持つこと自体は、2024年時点では珍しくない。AnthropicはAWSと深く組み、OpenAIは自前でスーパーコンピュータを構築、MetaのLlama推論サービスも自社インフラだ。ただ智譜のこの一手は、中国の文脈で見るとタイミングが面白い。阿里や字节のような巨大企業ではなく、未上場ながら資金調達をcapexに振り向けている。「オープンソース財団」という物語の余白を、「インフラ独立性」に賭けに変えた動きだ。
なぜ自前化か──勘定ではなく命題の問題
元のブログを読み込むと、智譜が挙げた理由は三つある。順にばらして、どれが本当に痛いポイントで、どれがPR用のレトリックかを見ていく。
第一に、推論コスト。GPUの Hourly単価と、トラフィックピーク時の溢价(プレミアム)は別物だ。サードパーティクラウドは従量課金だが、大規模モデル推論には明らかな波がある。日中は高く、夜は低い、平日が高く、週末は低い。クラウドベンダーは夜間の余剰分を返金してくれるわけではない。ピークに合わせて都度拡張するわけにもいかない──そちらのほうがずっと高い。自前化すれば全体の稼働率を70%以上に引き上げられる。クラウドでは30%が限界だ。
第二に、遅延の制御。自前ならP99を50ms以内に詰められる。クラウドではネットワークホップ数と共有テナントの影響で難しい。技術的に不可能なわけではなく、商業モデルの許容範囲に収まらないという話だ。
第三に、データコンプライアンス。中国語データの国外持ち出しに関する一線は常に存在し、ふだんは取り締まられないだけだ。国内クラウドを使うぶんには、データが国内データセンター間を行き来するだけで問題ない。しかし国外ノードが絡んだ瞬間、コンプライアンスリスクが一気に浮上する。自社設備 + 自社データセンターで、この線を完全に閉じる。
三つのうち本当に硬いのは三番目だ。一番目と二番目は経済計算、三番目は事業継続の計算になる。
これまでの動きとの違い
比較その1:巨大企業は2年前に同じ道を歩み終えている。AnthropicはAWSと密接に組み、Trainiumで学習負荷を回す。OpenAIの自前スーパーコンピュータ構築はさらに古く、Mira Murati時代から語られてきた。MetaのLlama推論も自前だ。これらの企業は資金も利用シーンもチームもあり、自前化は自然な帰結だった。
比較その2:中国大手モデル企業のデフォルトはまだクラウド。阿里通義は阿里雲に頼り、字节の豆包は火山引擎を使う。月之暗面や深層求索も初期はクラウドを借りていた。これは資源最適解だ──先行きのcapexを抱えず、トークン単位で支払い、軽く始められる。智譜も以前はそうだった。
比較その3:智譜の特殊性──巨大企業ではなく、限った資金をcapexに突っ込む形だ。これは、オープンソース物語の余白を絞り、独立可控(自立して制御可能)という物語を大きくすることを意味する。言い換えれば、智譜はもう「阿里雲と共生する」とは語らず、「大顧客に独立してサービスを提供できる」と語り始めた。
中国のモデル企業が公式ブログでここまで明かしたことは初めてだ。これまでは実際にやっていても、言葉にはしなかった。
開発者にとっての意味
もし今GLM-4 / GLM-4.5シリーズのAPI(z.ai/platformからアクセス可)を使っているなら、短期的には三つの変化がある。
1. エンドツーエンド遅延の低下。自前スタックならP99を半分程度に圧縮できる。最も体感しやすいのは長文コンテキストだ。以前は32kコンテキストの末尾で詰まるケースが頻発していたが、自前化後はかなり滑らかになるはずだ。
2. 価格の短期的な上昇可能性。自前化初期はcapexの償却が重く、相当部分をAPI顧客に転嫁する可能性が高い。大口利用者なら、長期契約で押さえておくのが賢明だ。
3. サービス安定性の理論上の向上。クラウドベンダーの障害ドメインが一段減るぶん、SLAは良くなるはずだ。具体的な数字はSLA文書の公開を待つ必要がある。
接続方法に変更はない。下記はz.aiのドキュメントから持ってきたもので、動作する。
from zai import ZaiClient
client = ZaiClient(api_key="YOUR_API_KEY")
response = client.chat.completions.create(
model="glm-4.5",
messages=[
{"role": "user", "content": "用一句话解释什么是推理栈"}
],
temperature=0.7,
max_tokens=256,
)
print(response.choices[0].message.content)
オープンソース版のGLM-4.5をローカルで回すならvLLMが推奨だ。HuggingFace Transformersを直接使うよりスループットが10〜20倍高くなる。
編集部の見立て
推論スタックの自前化は、技術選択ではなくビジネス選択だ。モデル企業が「インフラ独立性」を語り始めたのは、大抵の場合、次のラウンドのバリュエーションやIPO、あるいは長期顧客向けの物語を準備しているときだ──売っているのはトークンではなく「可控(制御可能性)」である。
中国の大多数のモデル企業はまだトークンを燃やしながら顧客を奪い合っている段階で、智譜は「可控」を売り始めた。この一手は12ヶ月早かった。短期的に見れば、智譜はAPI価格設定で損をする(自前化の償却 + 顧客の移行コスト)。長期的に見れば、国産GPUが2026年下半期にカード単体の推論性能をH100の70%水準まで引き上げられれば、智譜は2年先行してポジションを取ったことになる。
阿里や字节と違って、智譜には自社クラウド事業による救済がない。これはオール・オア・ナothingの賭けだ。AnthropicがTrainiumで学習を回すのと違って、智譜はおそらくNVIDIAの国内供給版を使うはずで、ヘッドロック(供給制約)のリスクは解消されていない。「クラウドに首を絞められる」から「GPUメーカーに首を絞められる」に変わるだけだ。
不透明な点:智譜がGPUモデル、データセンターの所在地、capexの数字を公表していない。H100/H200の国内供給版を使っているなら、この一手のもたらす堀(moat)は実質18〜24ヶ月しかない──国産代替が成熟すれば、どの企業も自前化できるようになるからだ。