它解決了什麼問題
Agent 後端框架這兩年競爭激烈——LangGraph、AutoGen、LlamaIndex、CrewAI,光是選哪一個就夠煩惱。前端這塊卻始終乏人問津:Agent 輸出的 token 流要怎麼渲染?Agent 想讓使用者確認某個操作時該怎麼辦?Agent 要彈出表單、修改圖表,UI 端又該如何回應?
這些問題我被問過不下十次。不少人寫完 LangGraph agent,本機跑得順,一接到 Web 上就傻眼——自己手刻 SSE、處理 tool_call、把中間狀態塞進 React state,三百行膠水程式碼寫完,業務邏輯還沒動工。
CopilotKit 想扮演 Agent 與使用者之間的中介層。同一個 Agent 既能驅動 React 網頁,也能在 Slack、Microsoft Teams、iMessage 裡運作,還能做 Human-in-the-loop 的審批流程。它不搶 Agent 框架的飯碗,只負責「最後一公里」——接住 Agent 的輸出,再把 UI 的回饋送回去。
截至分析時,該倉庫有 36,880 stars,採用 MIT 授權,以 TypeScript 為主,同時提供 Python Runtime。
怎麼使用
一行 npx copilotkit@latest create 就能拉出腳手架,配上 OpenAI 或 Anthropic 的 key 即可啟動。
程式碼層面的最小範例:
import { CopilotKit } from "@copilotkit/react-core";
import { CopilotChat } from "@copilotkit/react-ui";
function App() {
return (
<CopilotKit runtimeUrl="/api/copilotkit">
<CopilotChat
instructions="你是一個訂單助手,可以呼叫工具修改訂單狀態"
labels={{
title: "訂單助手",
initial: "你好,問我任何訂單問題",
}}
/>
</CopilotKit>
);
}Python 後端用 FastAPI 掛載 Runtime:
from copilotkit import CopilotKitSDK, LangGraphAgent
from fastapi import FastAPI
app = FastAPI()
sdk = CopilotKitSDK(
agents=[
LangGraphAgent(
name="order_agent",
graph=my_langgraph,
# 關鍵:宣告前端可呼叫的 tool
frontend_tools=["update_order_status", "render_invoice"],
)
]
)
app.mount("/api/copilotkit", sdk)Agent 不只能呼叫後端 tool,還能呼叫「前端 tool」。比方說 update_order_status——Agent 一呼叫,UI 端的表格就即時高亮被修改的那一行。不是 WebSocket 推事件讓你自己解析,而是 CopilotKit 直接幫你把狀態同步妥當。
它的運作原理
架構分為三層:
① AG-UI 協定層——基於 SSE 的事件流協定,定義 Agent 與前端之間的 16 種事件類型,涵蓋訊息、工具呼叫、狀態同步、人工介入請求等。AG-UI 是 CopilotKit 團隊今年 7 月捐出的開放協定,已獲 Google、LangChain、AWS、Microsoft、Mastra、PydanticAI 採用。屬於少見由開源主導的 Agent 通訊標準。
② CopilotKit Runtime——Node 或 Python 後端,負責橋接你的 Agent 框架。不論用 LangGraph、AutoGen 還是自己寫的 ReAct,只要包一層 LangGraphAgent 或 AutogenAgent,Runtime 就知道如何把輸出轉成 AG-UI 事件。
③ 前端 SDK——React、Angular、Vue、React Native、Slack、Microsoft Teams 的適配層。核心套件 @copilotkit/react-core 發佈於 npm 公共 registry,把協定事件翻譯成可渲染的 UI 元件。
這套架構裡我認為最值得關注的不是 AG-UI 本身,而是 Shared State。Agent 與前端共用同一個狀態物件:Agent 能讀懂 UI 狀態(例如「使用者目前在看哪張訂單」),UI 也能回應 Agent 的狀態變更(例如「Agent 把訂單改成已出貨」)。雙向同步,不需要你手寫 reconcile。
優點與缺點
優點:
- AG-UI 是少數由開源主導的 Agent 通訊標準。Google、AWS、Microsoft 齊聲點頭,這在 Agent 圈相當少見。
- 多端統一是真實痛點。Web、Slack、Teams、iMessage 共用同一個 Agent,複用的是後端邏輯,而非 UI 程式碼。
- Generative UI(Agent 動態決定彈出哪些元件)做得比 Vercel AI SDK 深入。Vercel 的
streamUI主要解決「渲染 token 流」,CopilotKit 則能讓 Agent 主動產生完整的表單、圖表、審批卡片。
缺點:
- 中文文件相當稀少。官方 docs 以英文優先,社群翻譯斷斷續續。
- Angular、Vue、React Native 的支援明顯不如 React。React 是一等公民,其他端雖可用但 API 不齊全。
- 36.8K stars 中有很大一部分來自 AG-UI 協定的光環,實際 SDK 的使用門檻比 LangChain 高。LangChain 概念簡單,CopilotKit 得理解 Runtime、Agent、Tool、State 四層,新手曲線偏陡。
- 核心套件
@copilotkit/react-coregzip 後約 80KB。對 SDK 體積敏感的小型專案而言,這個數字不算輕。
實測心得
跑了官方的 create 腳手架,5 分鐘內就架起一個 React + Python FastAPI 後端的 demo。接上 LangGraph Agent,讓它呼叫 update_order_status 這個前端 tool——UI 端表格會即時高亮被修改的那一列。
Shared State 的同步延遲肉眼幾乎不可察。我在 console 裡打了時間戳,從 Agent 呼叫 tool 到 React 元件收到 state 更新,間隔在 50ms 以內。
對比先前用純 LangGraph 自己寫 SSE 串流處理,省了大約 200 行膠水程式碼——主要是 tool_call 解析、中間狀態累積、錯誤重試這三塊。
一個意外發現:CopilotKit 的 Generative UI 不只是「渲染 token」,它能讓 Agent 主動生成 <form>、<button>、<chart> 這類完整元件。搭配 human-in-the-loop 事件類型,Agent 可以在中途停下來詢問使用者「確認提交嗎?」,UI 彈出確認框,使用者點擊後 Agent 再繼續。這個審批流程不用你自己寫狀態機。
適用對象
適合:
- 想做 ToB SaaS 並加入 AI 助手、卻不想為每個端(Web、Slack、Teams)各寫一遍的團隊。這是 CopilotKit 的殺手級場景。
- 想做 Generative UI(Agent 自行決定彈出哪些表單或圖表)的人。
- 想用 LangGraph/AutoGen 但前端整合搞不定的人。Runtime 已經幫你適配好。
不適合:
- 只想要一個聊天框。直接用 Vercel AI SDK 的
useChat更輕量、相依性更少。 - 對 SDK 體積敏感的小型專案(核心套件 80KB gzip)。
- 完全不做多端的純命令列或純後端 Agent。CopilotKit 的價值在於前端層,用不到等於白裝。
參考來源
- GitHub 倉庫:https://github.com/CopilotKit/CopilotKit
- AG-UI 協定規範:倉庫 docs 目錄下有完整的事件類型定義
- npm 套件:https://www.npmjs.com/package/@copilotkit/react-core