OpenAI 同日發布 GPT-6.2 Astra 與 Sol。本文比較兩者適用於 Agent 的選型方式,並提出工作流測試方案。
官方發布頁:https://openai.com/index/introducing-gpt-6-2-astra-sol/
相關討論登上 Hacker News 首頁,獲得 128 分與 32 則留言。討論頁:https://news.ycombinator.com/item?id=50535230
但一次發布兩款模型,不代表開發者會直接獲得兩份現成答案。
如果只是聊天,Astra 與 Sol 的最終回答可能十分相近。進入 AI Agent 情境後,差異主要會反映在任務分工:誰負責規劃、誰負責執行程式碼、誰負責批次檢索,以及失敗後由誰重試。這些選擇都會影響成本、延遲與成功率。
雙模型發布,不等於雙份答案
過去選模型,常见做法是跑幾組 benchmark,再挑分數最高的模型。
這對單輪問答還算夠用,對 Agent 則不然。Agent 的一項「任務」通常包含多次模型呼叫:
- 拆解目標,產生步驟。
- 選擇工具,整理參數。
- 讀取工具結果,判斷下一步。
- 遇到錯誤後重試或改走其他路徑。
- 彙整結果,檢查格式。
假設任務規劃呼叫 1 次、工具循環 8 次、失敗重試 2 次、最終驗證 1 次,總計就是 12 次模型請求。價格較高的模型若多呼叫幾次,帳單就會明顯變動。
因此,比較 Astra 與 Sol 時,至少應將以下三個維度放在同一張表中:
| 維度 | 要回答的問題 |
|---|---|
| 能力 | 哪類任務的成功率較高? |
| 成本 | 完成同一任務需要多少 token 與呼叫次數? |
| 穩定性 | 工具參數錯誤率、重試率與人工接管次數是多少? |
跑分只能回答第一個問題的一部分。Agent 系統真正需要釐清的是後兩項。
先看產品定位,再看榜單
依據 OpenAI 的產品定位,GPT-6.2 Astra 與 Sol 並非單純的「強弱版」關係。
Astra 更適合複雜推理、程式碼生成,以及需要較強綜合判斷力的任務。它可以負責規劃、程式碼審查與疑難故障定位等高價值環節。
Sol 更適合規模化執行與高吞吐量工作流,例如分類、抽取、格式轉換、工具參數生成,以及驗收標準明確的子任務。
官方資料未提供可直接填入表格的完整參數、價格與 context 規格。沒有官方數據,就不做推測。
選型時可以先依職責分工:
- Astra:複雜推理、程式碼修改、架構決策,以及失敗後的重新規劃。
- Sol:批次分類、結構化輸出、一般檢索與平行工具呼叫。
長 context 也不代表「視窗越大就一定越好」。當 context 塞滿日誌、檢索片段與工具輸出,模型仍須重新定位關鍵證據。輸入 token 增加,成本上升,回應速度也未必更快。
更實用的做法是依工作流切分,而不是依品牌切分。
程式碼修復 Agent 可以由 Astra 制定方案,再交由 Sol 執行機械式修改。資料檢索任務則可由 Sol 批次篩選來源,最後交給 Astra 合併與核對。
兩款模型各自處理擅長的環節,是否真的比全程使用同一模型更省錢、更快,仍須以測試數據確認。
Agent 的成本藏在呼叫組合裡
許多團隊只記錄模型的單次呼叫價格,卻忽略 Agent 額外產生的成本。
真正需要計算的是「每項成功完成任務的成本」:
單任務成本 = 規劃 token
+ 工具循環 token
+ 重試 token
+ 驗證 token
+ 工具與基礎設施費用
以一項需要 10 次呼叫的任務為例,若前 2 次由 Astra 處理、後 8 次由 Sol 處理,成本結構可能與全程使用 Astra 截然不同。
反過來說,若 Sol 的失敗率較高,額外重試就會觸發,原本的單次價格優勢也可能被抵銷。
延遲則應依關鍵路徑計算。Agent 經常平行呼叫多項工具,但模型決策仍有先後順序。以下偽程式碼說明路由邏輯,並不代表 OpenAI 官方 API 的具體實作:
from dataclasses import dataclass
@dataclass
class Route:
task_type: str
needs_retry: bool
def choose_model(route: Route) -> str:
if route.needs_retry or route.task_type in {"planning", "code_review"}:
return "gpt-6.2-astra"
return "gpt-6.2-sol"
這段程式碼的重點是路由條件。正式實作時,還要整合官方 SDK、支援漸進式切換,並記錄每次路由決策。
失敗重試尤其容易被忽略。一個格式錯誤,可能增加兩輪呼叫;一個錯誤的工具參數,也可能浪費整個檢索週期。
與其一味提高模型級別,不如先檢查工具 schema、回傳結構與提示詞。
用真實工作流測試模型
建議設計三組相同任務的對照測試:程式碼修復、資料檢索與多工具執行。
1. 程式碼修復
準備同一個真實 repository 與同一份 issue,兩組測試只能使用相同的工具與權限。
記錄以下項目:
- 測試通過率。
- 第一次修改能否通過 CI。
- 從接收 issue 到提交 patch 的時間。
- 是否修改了任務範圍外的檔案。
- 人工接管次數。
Astra 可先測試根因定位與 patch 設計,Sol 可先測試批次測試輸出處理、重新命名與格式修復。這裡不能只看產生的程式碼行數;patch 越大,審查成本越高。
2. 資料檢索
提出同一個研究問題,要求模型呼叫同一批搜尋與文件讀取工具。限制最大查詢次數,避免無限搜尋掩蓋模型差異。
記錄以下項目:
- 找到正確來源的比例。
- 引用是否足以支持結論。
- 重複查詢次數。
- 輸出 token。
- 人工修正引用的次數。
這項任務可以測試 Sol 是否適合先篩選候選來源,以及 Astra 是否適合處理衝突資訊。不過,這些都只是待驗證假設,不能當成發布結論。
3. 多工具執行
例如讀取日曆、查詢 CRM、建立工單,再發送通知。驗收標準應是狀態是否正確,而不是聊天回覆是否流暢。
記錄以下項目:
- 工具呼叫成功率。
- 參數錯誤率。
- 中途恢復狀態的能力。
- 端到端耗時。
- 是否需要人工補做操作。
測試表可以維持簡單:
| 工作流 | 成功率 | 平均耗時 | 人工接管 | 平均 token |
|---|---|---|---|---|
| 程式碼修復 | 待測 | 待測 | 待測 | 待測 |
| 資料檢索 | 待測 | 待測 | 待測 | 待測 |
| 多工具執行 | 待測 | 待測 | 待測 | 待測 |
接著分別比較三種策略:全程使用 Astra、全程使用 Sol,以及依任務動態路由。
在實際執行前,不填入推測數字。公開 benchmark 也無法取代工作流測試,因為工具品質、context 建構方式與重試策略都會改變結果。
最後可以採取一個具體動作:先選出 20 項真實任務,固定工具、權限與驗收條件,再分別執行兩種單模型策略及一種動態路由策略。依「成功任務成本」排序,而不是依聊天感受排序。
編輯觀察
這次真正重要的,不是 OpenAI 又多了兩個模型入口。Hacker News 討論獲得 128 分與 32 則留言,至少顯示開發者仍會持續追問價格、能力與 API 相容性。
我的判斷是,模型發布會逐漸轉向路由配置。團隊會先讓能力較強的模型處理規劃與異常,再把可驗收、可批次化的步驟交給成本較低的模型。模型目錄越豐富,Agent 配置就越像一組策略,而不是單一 model 參數。
這次與過去的「換模型」不同:當 Astra 與 Sol 同時出現,選型便從靜態比較轉為動態分配。同一項任務可能多次呼叫不同模型,再依前一步結果調整級別。
目前仍不確定的是,官方產品定位能否在真實工具鏈中形成穩定的成本優勢。這還得看 SDK 支援、限流、價格結構與失敗重試機制。這些條件成熟後,路由能力才可能比單項榜單更影響 Agent 的實際效益;否則,雙模型只會徒增維運複雜度。