大型語言模型

微軟 Decision-1 押注「小而快」:Agent 決策模型被低估了嗎?

微軟在 Azure AI Foundry 推出專用決策模型 Decision-1,衝上 Hacker News 首頁。Agent 技術堆疊中長期被忽視的決策層,值得重新檢視。

字級

最近 Hacker News 首頁有則不起眼的帖子:microsoft-decision-1-model-foundry,124 分、47 則留言。發布方是微軟的 Command Line 工程部落格,模型託管在 Azure AI Foundry 上。

帖子本身熱度一般,但產品定位很有意思:這是個專用決策模型,不是聊天模型。微軟在摘要裡直接寫明 "our model for fast decision-making"。

Agent 技術堆疊裡,這塊長期被忽視。我把所有公開資料翻了一遍,說說我的判斷。

Decision-1 是什麼

Decision-1 不是用來跟你聊天的。它面向的任務很窄:在有限時間內,從一個動作空間裡挑出下一步該做什麼。

放在 Agent 情境中,它解決的是 ReAct 循環裡 "Thought → Action" 那一拍:

  • 一個瀏覽器 Agent 要不要點這個按鈕
  • 一個客服 Agent 下一步該問什麼、查哪個 API
  • 一個工作流 Agent 在多個 tool 之間選哪個

跟通用 LLM 的差別在哪?快。不是「推理更深刻」那種快,是字面意義上的 latency 低、單步決策成本低。

微軟沒公布具體參數和 benchmark 數字(這點後面會說)。從 Foundry 的定位和命名(Decision-1,帶個「1」)來看,這是系列的第一款,主打驗證方向能不能跑通,不是一上來就 SOTA。

註:Command Line 是微軟去年開始用的工程內容管道,定位偏開發者,跟傳統的 Azure 文件/行銷部落格不一樣。

為什麼要單獨做一個決策模型

這才是我感興趣的地方。

大模型已經能「什麼都會」了,為什麼還要專門做一個決策模型?反直覺的角度:Agent 在生產環境真正卡脖子的,往往不是「會不會」,而是「快不快」。

舉個例子。一個 RAG Agent 跑複雜任務,可能要循環 10-20 步。每一步用 GPT-4o 或 Claude 3.5 這種通用大模型來決策,光決策這一步的 latency 就能堆到幾秒甚至十幾秒,token 成本也吃不消。

換成一個小決策模型:

  • 單步延遲從 800ms 壓到 100-200ms
  • 單步成本從幾分錢壓到幾厘
  • 20 步循環下來,總延遲從 15 秒變成 3 秒,使用者體感完全不同

專用決策模型的核心價值是繞開通用 LLM 的成本和延遲陷阱。它不用能寫詩、能做開放式對話,只要在限定的 action space 裡挑得準、挑得快。

這跟資料庫裡的索引層很像。你有全表(通用大模型),也有索引(專用決策模型)。大多查詢走索引就夠了,只有複雜查詢才回表。

微軟 Foundry 生態裡的位置

文章託管在 commandline.microsoft.com,這網域是微軟的工程部落格管道,但 URL 裡直接帶 "model-foundry",說明模型本身綁定 Azure AI Foundry 平台。

這意味著:

  1. 不是獨立 API 銷售,而是 Foundry 生態的一部分。企業用戶要使用,基本上得在 Azure 上跑。
  2. 和微軟的 Agent 框架深度整合。微軟最近在推 Microsoft Agent Framework(從 AutoGen 演進過來的那套),Decision-1 大概率是這套框架裡的預設決策器選項之一。
  3. 企業市場導向。微軟賣 Agent 解決方案,核心客戶是 enterprise,關心的是 latency、cost、compliance,這些恰好是專用模型的優勢區。

微軟的策略越來越清晰:不跟 OpenAI/Anthropic 在「最大最強」的通用模型上硬碰,而是在企業落地的中間層做文章 — Foundry 做平台,Decision-1 做專用元件,Agent Framework 做編排。

和同類方案的對比

橫向看,有幾類東西在做類似的事:

1. Anthropic 的「快速模型」路線

Anthropic 的 Claude 3.5 Haiku 就是這個定位 — 小、快、便宜。但 Haiku 還是通用對話模型,只是參數小。Decision-1 是任務專用,訓練目標就不一樣。

對比維度:Haiku 跑決策任務,還是要先理解上下文、再生成決策文字;Decision-1 假設上下文已經結構化好,直接輸出 action。

2. OpenAI o 系列的推理模型

o1、o3 走相反方向:用更多算力做更深推理。Decision-1 是反方向 — 用更少算力做更快決策。

兩者不衝突,適用情境不一樣:

  • 複雜規劃、一次性決策 → o 系列
  • 高頻循環、每步都要決策 → Decision-1

3. RL 決策小模型(robotics / 遊戲方向)

學術界早就有這類工作,Decision Transformer、Trajectory Transformer,還有各種 robotics 的 RL policy。但這些大多在模擬環境裡跑,落地到真實 Agent 堆疊的不多。

Decision-1 的差異化在於:為生產環境的 Agent 工作流設計,不是為遊戲/機器人。輸入是 tool/API 的 schema 和當前狀態,輸出是下一步 action 呼叫,不是連續控制訊號。

4. 開源小模型路線

Qwen2.5、Llama 3.1 這些開源小模型也能微調出還不錯的決策能力。但企業客戶很少自己微調 — 資料不夠、工程成本高。微軟提供託管好的、即拿即用的決策模型,這個價值對小公司不大,對 enterprise 很大。

方案定位優勢劣勢
Claude 3.5 Haiku小通用模型多用途、生態成熟決策非專用,延遲仍有空間
OpenAI o 系列深度推理複雜決策能力強慢、昂貴,不適合循環呼叫
開源小模型 + 微調自建決策器可控、可客製工程成本高,需要資料
Decision-1任務專用快、便宜、企業級託管閉源,生態早期

編輯思考

這件事真正有意思的地方,是Agent 堆疊的中間層被低估了。

現在業界注意力基本被兩端吸走:

  • 一端是「更大的通用模型」 — GPT-5、Claude 4、Gemini 2 這些
  • 另一端是「更複雜的 Agent 框架」 — LangGraph、AutoGen、CrewAI 這些編排層

中間的「決策模型」這一層,幾乎沒人專門做。大家都預設用通用大模型兼任。

Decision-1 的邏輯是:有些事情,通用大模型兼任的成本太高了。就像你不會用 MySQL 當 Redis 用一樣 — 都能存資料,但場景不對,效率差幾十倍。

我押的方向是:接下來 1-2 年,會看到更多「專用中間層」模型出現。決策是一個,但不會是最後一個。可能還會有:

  • 專用 Reranker 模型(給 RAG 用)
  • 專用 Tool Selection 模型(給 Agent 選 tool)
  • 專用 Guardrail 模型(給輸出做合規檢查)

微軟這次走了一步,但能不能走出來還不好說。最大的風險是被通用模型吞掉。如果 GPT-6 或 Claude 5 把單步決策延遲也壓到 100ms 以內、價格也降到接近專用模型,那 Decision-1 這類專用元件的意義就弱了。

另一個不確定的點:微軟沒公開 benchmark 數字,也沒公開參數規模。可能還在疊代,也可能數字不夠漂亮。HN 上討論度一般(124 分對工程類帖子算中等),社群還在觀望。

但無論如何,把決策模型從通用模型裡拆出來,這個方向我覺得是對的。Agent 真正落地,拼的不是單步多聰明,是整體循環多流暢。

來源: https://commandline.microsoft.com/microsoft-decision-1-model-foundry/