大型語言模型

Qwen 雙開:2.4T Max 閉源走 API,27B 才是給開發者的真傢伙

阿里同日端出 2.4T MoE 旗艦 Qwen3-Max(閉源、僅 API)與 27B 稠密模型(開源、Hugging Face 可下載),兩者都瞄準 Coding 與 Cowork 場景。今天開發者真正能帶走的牌,是 27B 這一張。

字級

Qwen3-Max 把 2.4T MoE 開源了,但真正值得玩味的是 27B

阿里這次一口氣甩出兩張牌。

一張是 Qwen3-Max,2.4T 參數的 MoE 旗艦,對標 GPT-5、Gemini 2.5 Pro、Claude 4.5 Opus 這類閉源天花板。另一張是 Qwen3-27B 稠密模型,單卡或雙卡消費級顯示卡就能跑推論與微調。

兩個模型同時瞄準兩個場景:Coding(程式碼生成、Agent 編程)與 Cowork(多 Agent 協作)。

牌攤開了,問題隨之而來——開發者真正會帶走哪一張?


2.4T 這個數字到底代表什麼

先把最大的誤解拆掉:MoE 2.4T 不是 2.4T 都在跑。

MoE(Mixture of Experts)的全量參數是 2.4T,但每次推論只啟動其中一小撮 Expert。Qwen 系列的典型啟動比例在 10% 以內。換句話說,你看到的「2.4T」更像是一份能力目錄——模型懂得很多事情,但回答一道題時只會呼叫其中一部分。

這個數字真正的意義在於三件事:

  • 知識容量上限高。訓練階段壓進去的模式比稠密模型多。RAG、複雜指令、長鏈推理這些吃「見過的題型多」的工作,自然佔便宜。
  • 對標閉源旗艦的姿態。2.4T 這個量級直接放進開源,國內之前沒幾家敢這樣玩。Llama 4 Maverick 也不過 400B 啟動參數、Llama 4 Behemoth 還是 preview。Qwen 這波把開源上限直接跳了一檔。
  • 跑起來的門檻沒降低。全量部署 2.4T MoE 依然要一堆 H100/H200,顯存按 TB 算。一般開發者碰不到,碰得到的也是企業級推論服務商。

所以 Max 這張牌,對絕大多數開發者來說是個訊號,不是個工具。


27B 才是這波真正的開源炸彈

回頭看 27B 稠密模型,這才是開發者今天能上手的那張牌。

幾個關鍵點:

  • 單張 RTX 4090 / 5090 就能跑推論,INT4 量化後 24GB 顯存就塞得下
  • 雙卡 A100 / H100 可以微調,LoRA / QLoRA 完全可行
  • 稠密架構,沒有 Expert 路由那種部署坑,vLLM、SGLang、TensorRT-LLM 現成支援

我自己更在意的是它瞄準的場景:Coding 與 Cowork 同步開源。

之前的開源模型往往是「通用還行、Agent 不行」——能寫兩段程式碼,但接到 Claude Code、Cline、Cursor 這類工具呼叫鏈上就開始掉漆。Qwen 這波把 Coding(程式碼生成、工具呼叫、規劃)和 Cowork(多 Agent 協作、角色扮演、任務拆解)一起打出來,本質上是在告訴社群:這兩條工作流的開源底座我們包了。


Coding + Cowork 雙線押注

為什麼是這兩條線?因為錢在那裡,人也在那裡。

Coding Agent 是 2024 下半年到 2025 年最擁擠的賽道。Anthropic 把 Claude Code 做成產品級體驗,Cursor 估值飆到上百億美元,Devin、Cline、Codex CLI 一個接一個。底層模型的能力直接決定這些產品能走多遠。

Cowork(協作 Agent) 則是 Agent 框架的主戰場。LangGraph、CrewAI、AutoGen 這些框架把「多個 Agent 怎麼分工、怎麼通訊、怎麼共享狀態」抽象成圖 / 狀態機。底層模型的角色扮演能力、指令遵循能力、長上下文穩定性,決定了這些框架能撐起多複雜的任務。

Qwen 把 Coding 與 Cowork 兩個方向的能力同步開源,等於把這兩條線的開源底座做實了。對台灣與中文圈的團隊來說,要復刻一個 Cursor 或 CrewAI 等級的東西,模型這一層不再需要重來。


開源拉到 2T 級,華人團隊的反應速度

橫向看一下節奏:

  • Meta / Llama 系列:Llama 3 開到 405B,Llama 4 Maverick 400B 啟動、Behemoth 還停在 preview
  • Mistral:一直走中小模型路線,Mixtral 系列的 MoE 沒破 200B
  • DeepSeek:V3 是 671B MoE,先前最接近的開源大模型

Qwen 這次 2.4T MoE 直接跳了一檔。背後是工程能力與算力儲備的雙重豪賭。

幾個值得留意的細節:

  • 阿里在 2024 年就鋪過 Qwen2.5 系列,開源節奏沒斷過
  • 這次同步放出 Max + 27B,代表團隊已經在做「旗艦 + 落地」的產品矩陣化打法
  • 時隔數月回歸,一次性把上限拉到對標閉源旗艦的位置——這是給華人圈大模型競爭定調的動作

對中文圈開發者來說,最直接的影響是:復刻前沿 Agent 模型的模型成本被壓到極低。27B 能跑、能微調、能接到任何 Agent 框架裡。Coding 工具鏈的下一波開源產品,大概率會站在 Qwen 27B 上面。


現在能拿它來幹嘛

如果你今天就想動手,有幾條立刻能跑的路径:

1. 拉權重,本地部署 27B

# Hugging Face 上拉 Qwen3-27B
pip install transformers accelerate vllm

# 用 vLLM 起服務
vllm serve Qwen/Qwen3-27B-Instruct \
  --tensor-parallel-size 2 \
  --max-model-len 32768 \
  --gpu-memory-utilization 0.9

顯存需求參考(FP16):

  • 單卡推論:≥ 60GB(A100 80G、H100 80G)
  • INT4 量化推論:24GB(4090 / 5090 可衝)
  • LoRA 微調:雙 80G 起步
  • QLoRA 微調:單 24G 可行

2. 接 Coding Agent 框架

Qwen 系列的 tool calling 一直是開源裡最穩的之一。直接塞到 Claude Code 風格的 CLI 工具裡,或接到 Cline、Roo Code 這類 IDE 插件中,都不用改太多程式。

# 示例:用 OpenAI 相容協定呼叫本地 vLLM
from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:8000/v1",
    api_key="EMPTY"
)

response = client.chat.completions.create(
    model="Qwen/Qwen3-27B-Instruct",
    messages=[
        {"role": "system", "content": "你是一個 Python 工程師"},
        {"role": "user", "content": "幫我寫一個 FastAPI 介面,讀 CSV 回傳 JSON"}
    ],
    tools=[
        {
            "type": "function",
            "function": {
                "name": "run_shell",
                "description": "執行 shell 命令",
                "parameters": {
                    "type": "object",
                    "properties": {"cmd": {"type": "string"}},
                    "required": ["cmd"]
                }
            }
        }
    ]
)

3. 接到 LangGraph / CrewAI

把 base URL 指向本地 vLLM 即可。LangGraph 的 ChatOpenAI 相容層、CrewAI 的 OpenAI-compatible LLM,都吃這套。

幾個要注意的坑:

  • 授權條款:Qwen 系列多數走 Apache 2.0 或 Qwen 自家 License,商業使用前看清楚細則
  • 顯存:27B 全精度吃 54GB 左右,量化是必須的;Max 版本基本告別本地
  • 工具呼叫:不同 Qwen 子版本對 tool calling 的支援有差異,部署前先跑一下官方 eval

收尾

Qwen 這波不是「又發了個大模型」那麼簡單。

它一次把三個訊號同時打出來:開源上限對標閉源旗艦、落地能力下沉到消費級顯示卡、Coding 與 Cowork 兩個 Agent 戰場同步鋪底座。

對中文圈做 Coding Agent、Agent 框架、AI IDE 的團隊來說,這是一次「模型層不拖後腿」的機會。剩下的拚的是工程、產品與分發——這些才是更難的事。

來源:Latent Space, Qwen 3 Max: 2.4T MoE + 27B Dense Open Sourced, https://www.latent.space/p/ainews-qwen-38-max24t-and-27b-new
來源: https://www.latent.space/p/ainews-qwen-38-max24t-and-27b-new