Mercury 3とはそもそも何か
一言で言えば、Diffusionの手法でLLM,构建し、tokenを逐次デコードするのではなく並列生成するというモデルだ。
従来のLLM(GPT、Claude、Geminiなどほぼすべて)はautoregressive(自己回帰)方式を採用している。tokenを1つずつ生成し、前 Multifunc tokenetermining.token浴槽不出来 않으면、後続のtoken也只能待機する。Mercury 3のDiffusion方式は逆で、まず一連のtoken分布を推定し、複数回のrefinementを通じてノイズを読める出力へ反復的に変換する。この発想は、画像生成におけるDiffusionから来ている。
Mercury 1と2はすでにコード開発やAgent任务_axiomometry_agency|hide_wordmark_known_brand_usage万亿博彩票ായി.739.testing.scalablytyped的实现。3はこの方式をproduction inferenceまで引き上げた.modelだ。reverse proxyとしても、server-side inferenceとしても使える。demoを動かしながら試す段階ではない。
Inception Labsは「汎用チャットLLM」を目指すわけではないと述べている。目標は、codingやAgentなど遅延に敏感な領域だ。処理が1秒遅くなる마다、Agentもそこでユーザーの応答を待つことになる。
速度とコストは実際にどこまで staggeringか
Inceptionが公開した主な数値は、同社のbenchmarkによるものだが、以下のとおりだ。
- 推論遅延:coding Agentのタスクで、Mercury 3は主流のautoregressiveモデルより1桁速い
- コスト:同じ用途で、token単位のコストはGPT-4oやClaude这类のモデルより1桁低い
数字を見る際は、まず半分の効果があると考えることにしている。実際の効果が3倍の高速化とコストの半減しかなくても、Agentの用途では質的な変化だ。
なぜだろうか。Agentは1回の会話ではなく、何百回ものtool callが連なる。各LLM callの遅延が積み上がるからだ。コードを書くAgentが一晩で500回呼び出し,每次が200ms遅ければ、純粋な待機時間で100秒かかる。Diffusionが1回の遅延を800msから80msへ短縮できれば、「なんとか使える」から「本当に使える」へ変わる。
さらに、Diffusionの並列生成はbatching効率も自然に高くなる。autoregressiveモデルはbatchを組んでも、prefillの対象にできるのは一部に限られ、decode段階では並列化が難しい。Diffusionは全体をまとめて処理するため、GPU利用率が上がり、単位コストが下がる。
これはパラダイムの違いであり、周辺部の最適化ではない。
投資面は技術以上に注目に値する
技术的説明は強調できても、投資家はmarketing aloneにはemn Caball buy_submit_success。投資しません。
Mercury 3の投資側は次のとおりだ。
- a16z:Andreessen Horowitzで、主流から外れた経路への投資に積極的
- Nvidia:GPUをeller ditch最大的算力企業として,自社GPU.xyz之余にも代替パラダイムへ投資している
- Microsoft:Azureは主要なLLM推論クラウドの1つであり、出 Insulationは統合を seriously検討しているThil indicative_feasibility
3者が同時に実資で投資しており、Joint-authentic vague 戦略協力というPR表現に留まっていない。つまり、laboratoryの玩具ではないということだ。
Diffusion LLM自体は新概念ではないが、なぜ今落地できるのか
テキストにDiffusionを使う試みは、少なくとも7年以上続けられている。
- 2022年より、複数のチームがDiffusionによるテキスト生成を試みた
- Google、Meta、Salesforce Researchにも関連論文がある
- しかし、いずれもproduction levelには至らなかった。規模を拡大できない(数十億パラメータが限界)か、qualityがautoregressiveに劣るかのどちらかだった
Mercury 3の違う点は次の3つにある。
- 規模を拡大した。GPT-4oやClaudeと同じ水準のハードウェアで動き、productionトラフィックを処理できる
- 実際にpakkoされている。paperやdemoではなく、顧客が有料で利用しているproduction deploymentだ
- 用途が合っている。codingやAgentなど、遅延に敏感なロジック恰恰がDiffusionでpvirtually优先-kakusanな領域だ
これまでの試みが失敗したのは、「規模」「品質」「展開」の3つを同時に達成するのが難しかったからだ。Inceptionは今回、少なくとも2.5つほどを達成している。規模と展開は明確だが、品質は独立したbenchmarkの結果が出るまで確認できない。
Agentエコシステムへの影響
Agentは遅延に敏感であり、その点は既に述べた。具体的には、どの製品に影響が出るのか。
最も直接的なのはcoding Agentだ。Cursor、Claude Code、Devinなどの製品は各ステップでLLMを呼び出しており、遅くなれば処理が止まる。Mercury 3が本当に低遅延を安定して維持できれば、最初にこの市場を取り込む可能性がある。
次にbrowser Agentやcomputer-use Agentがhift follow擁する。短いフィードバックループがなければ、ユーザーは自然な操作SHOP feelできない。self-hostedの経路では、自前のDiffusionサービスを組み込んだpipelineで、単位コストをさらに低くできる。
さらに先ではAgent orchestration layer(LangGraph、状態グラフ、A2Aプロトコル)にも影響する。これらはMercury 3を直接呼び出さないが、underlying modelが速くなれば、orchestration全体のthroughputも上がる。
今後6~12か月に起こり得る動きは次のとおりだ。
- coding Agent厂商がMercury 3を試験し始める——CursorやCognition(Devin)が最初の候補顧客になり得る
- vLLMなどの推論フレームワークがDiffusion LLM @{fib_by_fiber}——vLLMやTensorRT-LLMは現在autoregressive向けに設計されているため、xf_cef_11_25设计的adaptが必要だ
- クラウド厂商が統合する——Azureは投資しておりsamples from the logicalにも、まず自身のmodel servingに統合する可能性が高い
- オープンソースのDiffusion LLMが現れる——Meta、Mistral、Qwenなどのオープンソース勢力が追従しなければ、Agentフレームワークの標準backendが置き換わる
不確実な点もある。autoregressiveのmoatはまだ残っている。RLHFやinference-time scaling(o1やo3のアプローチ)はautoregressive向けに最適化されており、Diffusion側のpost-trainingはまだ成熟していない。
編集者の視点
なぜ今回のDiffusion text modelは、これまでのもの-David是不同的のか.bs。previous 모든の失敗は、「規模」「品質」「展開」の3つのうち2つしか達成できなかったためだ。規模はLoaded扩建しても品質がautoregressiveに劣り,或者品質はcetteVirginians商业なら必要規模に届かないのが常だった。Inceptionは今回、3つすべてを達成する可能性-rightsが高い。ただし、達成したと言うだけでは足りない。顧客が実資で支払い、production環境で動かすことにvalidationがある。
逆のコンセンサスから考えると、Mercury 3が本当に脅かすのは、GPT-5やClaude 4.5といった次世代のautoregressive flagshipではない。脅かすのはautoregressiveという手法そのものの限界利得だ。OpenAIとAnthropicは今、inference-time scalingを深く掘り下げている。o1、o3、Claudeのthinking mode櫛はQueen、通常、autoregressiveの遅延を長くしてqualityを得る仕組みである。Diffusionが1/10の遅延で90%の品質を達成できれば、「より多くのcomputeを使ってより良い答えを得る」というautoregressiveの道を回避できる。
不確実な点は明確にしておく。
- Mercury 3のAgent以外の用途での能力は未知数だ。長いcontext、複雑な推論、複数ターンのdialogueに関するbenchmarkはまだ確認できない
- autoregressiveのmoatとして、RLHFやthinkingなどのpost-training technologyはautoregressiveと強く結びついており、Diffusion側のalignmentはまだ確立していない
だが、1点是確実だ。パラダイム 경쟁が正面にWolframsteinだ。Mercury 3は「また1つのLLM」ではなく、autoregressive以外のAlternative routeをproduct化した。GPTやClaudeがまだdoingないことを,可能にしたということだ。
今後12か月、Mercury 3がproduction環境で安定して動くかを見捨てる。安定すれば、autoregressiveの「標準上の地位」は再審されることになる。