產品

Claude Haiku 5.5 登場:小模型不再只是「便宜湊合」

Anthropic 推出 Claude Haiku 5.5,把小模型定位成 Agent 架構裡的獨立檔位,主打低延遲、高 QPS 場景,被視為填補分層調用版圖的關鍵一步。

字級

Anthropic 發佈了 Claude Haiku 系列的新版本 Haiku 5.5。這不是旗艦模型的閹割版,而是鎖定高 QPS、低延遲場景的獨立檔位。發佈當天直接衝上 Hacker News 榜首,掀起 300+ points 的討論熱度。

這次發佈的三件事

先把 Haiku 在 Anthropic 模型矩陣中的定位講清楚。從官方頁面可以看出,Anthropic 將模型分成三個層級:

  • Opus:最高階,運算慢、費用高,能力天花板也最高
  • Sonnet:中間檔,速度與能力的平衡點
  • Haiku:低成本、低延遲檔,專為高 QPS 場景設計

過去大家對 Haiku 的印象多半是「便宜湊合」——能用,但撐不起複雜任務。5.5 這一代想翻轉這個觀感。

官方頁面上的幾個關鍵定位:

  • 明確瞄準 sub-agent、即時任務、批次處理——不是給單次複雜推理用的
  • 上下文視窗與中階持平,長文件處理不算短板
  • 強調 coding 能力有顯著提升,畢竟這是 Haiku 系列一直被詬病的點

我先前用 4.5 的經驗是:寫 boilerplate 程式碼還 OK,一旦碰到多步除錯就開始掉漆。5.5 官方聲稱這塊補了不少,但完整跑分尚未釋出,下面會再提到。

小模型憑什麼登上 HN 300+

翻一翻 HN 的留言,開發者真正在乎的其實不是跑分數字。整理一下高頻出現的關鍵字:

  1. 延遲——出現頻率最高的字。在 Agent loop 裡每多 200ms,累積起來就是好幾秒
  2. 價格對比——拿各家的小模型橫向比較,有人直接算了月度帳單
  3. 能否本地部署——這題沒戲,Anthropic 沒有開源計畫
  4. 作為旗艦模型的 fallback——有人問能不能用 Haiku 做「模型路由」中的便宜層
  5. Agent 框架整合——子任務呼叫情境

有則留言挺有意思:

"Finally a small model that doesn't feel like punishment when you hit the rate limit."

翻成中文就是——終於有個小模型,讓你在觸發限流、降級到它的時候,不會覺得自己正在被懲罰。

這句話點出了 Agent 開發者的真實痛點:流量尖峰時被降級到小模型,如果品質崩盤,整個產品體驗就跟著陪葬。Haiku 5.5 想做到的就是「降級不降質」。

Agent 時代,小模型才是主力

這個觀點跟主流認知相反,但數字會說話。

一套 Agent 系統跑起來,主模型的呼叫次數其實不多——多半用在規劃、決策、複雜推理。但子任務才是吃 token 的大戶:

  • 萃取結構化資料
  • 分類、路由判斷
  • 生成短文本、rewrite
  • 工具呼叫的參數拼裝
  • 多步迴圈中的中間步驟

舉個具體的例子。一個典型的 RAG Agent 流程:

# 主模型:規劃 + 決策
plan = sonnet.invoke(f"用戶問:{query},從檢索結果裡挑出相關的,然後總結")

# 子任務(Haiku):每條檢索結果的 relevance 打分
for doc in retrieved_docs:
    score = haiku.invoke(f"給這段文件打分 0-1,是否回答了:{query}\n\n{doc}")
    
# 主模型:基於打分後的結果生成最終答案
final = sonnet.invoke(f"基於這些相關文件:{top_k_docs}\n\n回答:{query}")

在這個 loop 裡,Haiku 的呼叫次數可能是 Sonnet 的 5 到 10 倍。如果全部用 Sonnet,帳單直接爆掉;全部用 Haiku,第一步規劃的品質又撐不住。

這就是為什麼 Anthropic 要把 Haiku 5.5 做扎實——不是替小模型找存在感,而是 Agent 架構的現實需求。

編輯觀點

為什麼這件事比表面看起來重要?

因為它代表一個轉折點——大模型公司的競爭主軸從「誰更聰明」轉向「誰更會分層」。各家旗艦模型的差距正在縮小,但小模型檔位之間的落差卻是實實在在的。Anthropic 靠著三檔矩陣,把「什麼任務用什麼模型」這件事產品化了。

下半年的判斷:小模型會成為 Agent 框架的預設配置。LangGraph、AutoGen 這些框架的下一個 major version,大機率會內建「模型路由」層,讓開發者不用再手寫 if-else。Cursor 這類 IDE 產品已經在這樣做了——簡單補全派小模型上,複雜重構才交給旗艦。

不確定的地方:完整跑分數據還沒出來,Haiku 5.5 在 SWE-bench、HumanEval 這些 coding benchmark 上的具體表現,得等社群實測才知道。如果 coding 能力真如官方所說提升明顯,那 Agent 子任務的品質天花板就會再上一階。

另外,官方這次沒有公佈具體的延遲數字(TTFT、TPS),這點有點反常,可能要等第一波第三方測評揭曉全貌。

參考連結:

來源: https://www.anthropic.com/claude-haiku-5-5