工具

Gemini Decisions API 深度拆解:建立可評測的 Agent 決策流程

Google 將 Gemini 的決策能力封裝為獨立 API,重點不只在新增介面,而是讓 Agent 團隊能建立可重現、可除錯且可量化評測的決策流程。本文分析其產品定位、狀態管理、決策軌跡與成本風險。

字級

Google 推出 Gemini Decisions API,將決策調用獨立為 API。對 Agent 團隊而言,重點不是多了一個介面,而是能否建立可重現、可除錯、可評測的決策流程。

官方介紹:https://blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api/

這次發布帶來哪些改變

一般 Gemini API 的核心單位是訊息。開發者提供上下文,模型則產生文字或結構化輸出。

工具調用通常也採用相同模式。開發者透過 Function Calling 描述工具名稱、參數與用途,再由模型決定是否呼叫。模型回傳一次 tool call,應用程式執行工具並將結果附加至上下文,接著進入下一輪推理。

Gemini Decisions API 則將「決策」作為獨立介面提供,主要面向包含多個判斷步驟的 Agent 工作流,目的在降低 Gemini 接入這類流程的開發門檻。

三者的關注點各不相同:

  • Gemini API 是存取模型能力的入口。
  • Tool Calling 描述模型可以呼叫哪些動作。
  • Decisions API 面向包含多個判斷步驟的 Agent 工作流。

至少從產品定位來看,Google 正將決策從 Prompt 中的一段邏輯拆成獨立介面。

別把 Decisions API 當成工作流引擎

介面名稱容易讓人產生誤解。名為 Decisions API,不代表模型已經處理狀態管理、失敗復原與執行策略。

Agent 能否穩定運行,仍取決於應用層的控制。

第一是介面契約。模型提出的決定必須能由程式驗證。自由文字不適合直接驅動生產環境的動作。開發團隊應使用 JSON Schema、結構化輸出或明確的 action type,並為未知動作、缺少欄位與越權操作設計拒絕路徑。

第二是狀態管理。Agent 必須知道目前任務處於哪個步驟、已呼叫哪些工具,以及哪些工具曾經失敗。狀態不能只隱藏在對話紀錄裡。

逾時、工具錯誤、重複呼叫與循環執行,都需要由工作流引擎處理。

第三是可重現性控制。相似輸入產生相似決策,不代表最終業務結果一致。隨機性、模型版本、上下文長度與工具回傳值,都可能改變後續路徑。

生產系統需要固定模型與相依套件版本,記錄每次決策使用的上下文、工具參數與執行結果,並針對決策軌跡進行回放。

最常見的錯誤,是把「回答看起來不錯」當成「決策系統已經可用」。回答品質只涵蓋末端輸出。Agent 更典型的問題,是中途選錯工具、遺漏必要步驟,或在錯誤狀態下繼續執行。

因此,Decisions API 不是更長的 Prompt,也不會自動帶來完整的工作流引擎。更準確的定位是:提供呼叫決策模型的標準入口,讓開發者能在其上建立狀態、執行、重試與評測層。

Agent 開發要從 Demo 轉向評測

完成接入後,最有價值的成果不是一段 Demo,而是一套決策評測集。

團隊可以將歷史工單、去識別化後的日誌與人工處理紀錄整理成固定樣本。每筆樣本包含初始狀態、可用工具、目標條件與預期結果。讓 Agent 在隔離環境中執行,再記錄完整的決策軌跡。

至少應分別觀察以下指標:

  1. 任務成功率:在規定步驟、預算與逾時限制內達成目標的比例。
  2. 錯誤成本:錯誤動作造成的實際損失,而非只計算答錯次數。
  3. 平均呼叫次數:工具、模型與外部 API 的平均總呼叫數。
  4. P95 延遲:從請求開始到任務完成的第 95 百分位耗時。
  5. 人工接管率:Agent 無法繼續或需要人工核准的比例。

這些指標必須一起檢視。某個方案可能多呼叫十次模型,將成功率從 92% 提高到 96%,但 P95 延遲與推理成本已不可接受。另一個方案雖然錯誤成本較低,卻把大量異常任務轉交給人工處理。

一套實用的測試結構如下:

import json
from dataclasses import asdict, dataclass

@dataclass
class DecisionCase:
    case_id: str
    initial_state: dict
    expected_outcome: str
    max_tool_calls: int = 8

def evaluate_decision(case, decision, tool_calls):
    checks = {
        "task_success": decision.get("outcome") == case.expected_outcome,
        "call_budget": len(tool_calls) <= case.max_tool_calls,
        "action_allowed": decision.get("action") in {
            "complete",
            "request_information",
            "escalate",
        },
    }
    return {
        "case_id": case.case_id,
        "passed": all(checks.values()),
        "checks": checks,
        "tool_calls": len(tool_calls),
    }

case = DecisionCase(
    case_id="refund-001",
    initial_state={"order_status": "delivered", "policy": "return_allowed"},
    expected_outcome="refund_eligible",
)

decision = {
    "outcome": "refund_eligible",
    "action": "complete",
}

result = evaluate_decision(case, decision, tool_calls=[])
print(json.dumps(asdict(result), ensure_ascii=False, indent=2))

這段程式碼不是 Decisions API 用戶端。官方文章可用來理解介面定位與使用方式,具體請求格式、參數及模型名稱仍應查閱官方文件。在尚未驗證 SDK 與參數的情況下,不應虛構一段「能執行」的 API 範例。

真正可運作的工程測試應保存三類資料:每次模型決策、每次工具呼叫與最終業務結果。如此才能回答兩個問題:Agent 為何選擇這條路徑,以及升級模型後是否真的表現得更好。

價格、延遲與鎖定風險

現有資料不足以確認 Gemini Decisions API 的官方單價、速率限制與區域可用性。這些數據應以官方定價頁、配額文件與實際呼叫結果為準,不能直接套用一般 Gemini API 的價格。

成本分析應從完整鏈路計算:

def estimated_cost(cases, model_price_per_million, tool_price_per_call):
    total = 0.0
    for case in cases:
        total += case.input_tokens / 1_000_000 * model_price_per_million
        total += case.output_tokens / 1_000_000 * model_price_per_million
        total += case.tool_calls * tool_price_per_call
    return total

必須確認 input_tokens、output_tokens 與工具呼叫次數如何對應官方計費項目。不同工具本身也可能另行收費。

P95 延遲同樣需要拆開測量。模型推理、工具執行、串行步驟與重試都會累積延遲。

鎖定風險也比一般聊天模型更明顯。Agent 一旦依賴某個專有決策介面,狀態序列化、錯誤語意、工具協定與評測集都可能圍繞它設計。遷移至其他模型時,並非只要替換 model 參數。

可以提前降低耦合:

  • 使用內部 action schema 隔離供應商專用欄位。
  • 保存完整的請求、回應與工具軌跡。
  • 讓評測集與特定 SDK 解耦。
  • 為關鍵路徑準備第二個模型或規則作為備援。
  • 將權限驗證置於應用層,模型本身不能直接取得執行權。

編輯觀察

這次發布的重要性,不只是新增一個模型入口,而是 Google 正將 Agent 的決策層從 Prompt 邏輯拆解為獨立軟體元件。過去不少團隊會把流程控制寫進提示詞,再依靠人工觀察執行結果。當任務進入退款、採購與維運等場景,最先暴露的通常不是語言能力,而是動作無法重現、錯誤難以歸因,以及升級後無法比較。

我的判斷是,這類介面會促使團隊建立更嚴格的契約測試與軌跡評測。Agent 工程的重心將從「Prompt 寫得多漂亮」,轉向「狀態、動作與結果是否可驗證」。這與新增一個聊天模型不同,因為團隊必須回答三個問題:決策錯誤由誰承擔、如何重放,以及何時轉由人工處理。

但目前還不宜將它視為成熟的工作流平台。官方定位、SDK 細節、價格、配額與區域可用性,仍須以最新文件與實測結果為準。公開介紹也沒有提供足夠證據,說明它是否支援生產環境所需的持久狀態、確定性回放與細粒度工具權限。真正的分水嶺並非 API 是否上線,而是團隊能否以真實業務樣本證明,它比既有的 Prompt 流程更可靠、成本更低。

來源

https://blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api/

來源: https://blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api/