Anthropic 發佈了 Claude Haiku 系列的新版本 Haiku 5.5。這不是旗艦模型的閹割版,而是鎖定高 QPS、低延遲場景的獨立檔位。發佈當天直接衝上 Hacker News 榜首,掀起 300+ points 的討論熱度。
這次發佈的三件事
先把 Haiku 在 Anthropic 模型矩陣中的定位講清楚。從官方頁面可以看出,Anthropic 將模型分成三個層級:
- Opus:最高階,運算慢、費用高,能力天花板也最高
- Sonnet:中間檔,速度與能力的平衡點
- Haiku:低成本、低延遲檔,專為高 QPS 場景設計
過去大家對 Haiku 的印象多半是「便宜湊合」——能用,但撐不起複雜任務。5.5 這一代想翻轉這個觀感。
官方頁面上的幾個關鍵定位:
- 明確瞄準 sub-agent、即時任務、批次處理——不是給單次複雜推理用的
- 上下文視窗與中階持平,長文件處理不算短板
- 強調 coding 能力有顯著提升,畢竟這是 Haiku 系列一直被詬病的點
我先前用 4.5 的經驗是:寫 boilerplate 程式碼還 OK,一旦碰到多步除錯就開始掉漆。5.5 官方聲稱這塊補了不少,但完整跑分尚未釋出,下面會再提到。
小模型憑什麼登上 HN 300+
翻一翻 HN 的留言,開發者真正在乎的其實不是跑分數字。整理一下高頻出現的關鍵字:
- 延遲——出現頻率最高的字。在 Agent loop 裡每多 200ms,累積起來就是好幾秒
- 價格對比——拿各家的小模型橫向比較,有人直接算了月度帳單
- 能否本地部署——這題沒戲,Anthropic 沒有開源計畫
- 作為旗艦模型的 fallback——有人問能不能用 Haiku 做「模型路由」中的便宜層
- Agent 框架整合——子任務呼叫情境
有則留言挺有意思:
"Finally a small model that doesn't feel like punishment when you hit the rate limit."
翻成中文就是——終於有個小模型,讓你在觸發限流、降級到它的時候,不會覺得自己正在被懲罰。
這句話點出了 Agent 開發者的真實痛點:流量尖峰時被降級到小模型,如果品質崩盤,整個產品體驗就跟著陪葬。Haiku 5.5 想做到的就是「降級不降質」。
Agent 時代,小模型才是主力
這個觀點跟主流認知相反,但數字會說話。
一套 Agent 系統跑起來,主模型的呼叫次數其實不多——多半用在規劃、決策、複雜推理。但子任務才是吃 token 的大戶:
- 萃取結構化資料
- 分類、路由判斷
- 生成短文本、rewrite
- 工具呼叫的參數拼裝
- 多步迴圈中的中間步驟
舉個具體的例子。一個典型的 RAG Agent 流程:
# 主模型:規劃 + 決策
plan = sonnet.invoke(f"用戶問:{query},從檢索結果裡挑出相關的,然後總結")
# 子任務(Haiku):每條檢索結果的 relevance 打分
for doc in retrieved_docs:
score = haiku.invoke(f"給這段文件打分 0-1,是否回答了:{query}\n\n{doc}")
# 主模型:基於打分後的結果生成最終答案
final = sonnet.invoke(f"基於這些相關文件:{top_k_docs}\n\n回答:{query}")
在這個 loop 裡,Haiku 的呼叫次數可能是 Sonnet 的 5 到 10 倍。如果全部用 Sonnet,帳單直接爆掉;全部用 Haiku,第一步規劃的品質又撐不住。
這就是為什麼 Anthropic 要把 Haiku 5.5 做扎實——不是替小模型找存在感,而是 Agent 架構的現實需求。
編輯觀點
為什麼這件事比表面看起來重要?
因為它代表一個轉折點——大模型公司的競爭主軸從「誰更聰明」轉向「誰更會分層」。各家旗艦模型的差距正在縮小,但小模型檔位之間的落差卻是實實在在的。Anthropic 靠著三檔矩陣,把「什麼任務用什麼模型」這件事產品化了。
下半年的判斷:小模型會成為 Agent 框架的預設配置。LangGraph、AutoGen 這些框架的下一個 major version,大機率會內建「模型路由」層,讓開發者不用再手寫 if-else。Cursor 這類 IDE 產品已經在這樣做了——簡單補全派小模型上,複雜重構才交給旗艦。
不確定的地方:完整跑分數據還沒出來,Haiku 5.5 在 SWE-bench、HumanEval 這些 coding benchmark 上的具體表現,得等社群實測才知道。如果 coding 能力真如官方所說提升明顯,那 Agent 子任務的品質天花板就會再上一階。
另外,官方這次沒有公佈具體的延遲數字(TTFT、TPS),這點有點反常,可能要等第一波第三方測評揭曉全貌。
參考連結: