Rivet 將每個 AI Agent 放進輕量級 Actor,並以 S3 持久化 SQLite 狀態。它主要能降低等待型 Agent 的閒置成本,但狀態復原、並行一致性與安全隔離仍須自行驗證。
Rivet 是 YC W23 專案。官方將其定位為面向 agentic workloads 的高密度、可擴充協調器,核心技術為 actor model。原始碼倉庫位於 rivet-dev/rivet。
為什麼不讓每個 Agent 各用一個沙箱
一般 Agent 執行環境常見兩種做法。
第一種是在同一台機器執行多個行程,再透過容器或權限邊界加以隔離。第二種則是為每個 Agent 各自啟動完整的沙箱。
後者的隔離效果較佳,也能容納瀏覽器、程式碼解譯器等依賴較重的元件。問題在於,長時間任務可能同時維持數十個 Agent;沙箱若未釋放,運算、網路與儲存成本便會持續累積。
Rivet 選擇的是「輕量級 actor backed by S3」。官方說法十分明確:不替每個 Agent 運行 heavyweight sandbox,而是讓每個 Agent 使用一個由 S3 支援的輕量 Actor。
這裡必須區分兩個概念:
- Actor 是執行階段的狀態單元,並非 Agent 推理邏輯的替代品。
- S3 是狀態後端,不負責排程模型,也不替 Agent 做出決策。
因此,Rivet 省下的主要是常駐執行環境,而非直接移除沙箱能力。若 Agent 必須執行不受信任的程式碼或呼叫系統工具,專案依然需要外部執行層。
它的優勢出現在另一類負載:Agent 回合很長,大部分時間都在等待工具回傳、使用者輸入,或與其他參與者同步。此時,為每個執行個例常駐一套重型環境並不划算。
S3-backed Actor 究竟解決什麼問題
一個 Rivet Actor 能同時提供多項能力:
- 對應長時間 Agent 回合的長生命週期行程
- 保存脈絡的記憶體狀態
- 支援多人協作的 WebSocket 服務
- 由 S3 支援的持久化 SQLite 儲存
- 閒置時進入 hibernation
關鍵不在於「Actor 能聊天」,而是任務狀態有了明確的歸屬。
長任務重啟後,傳統做法通常必須重建容器、安裝依賴、復原日誌,再從檢查點重播。Rivet 將跨回合需要保留的資料放進 Actor 狀態,SQLite 資料則由 S3 持久化。復原時不必一直背負整個執行環境。
WebSocket 服務處理的是另一個問題:多名使用者或多個 Agent 可以圍繞同一份狀態互動。它不是只接收請求並回傳文字的 HTTP worker。用戶端與伺服器端可維持連線,Actor 則在記憶體中保存工作階段狀態。
它的模型與 Cloudflare Durable Objects 相當接近。兩者都將邏輯與狀態綁定至可定址的 actor,而非要求所有業務共用一個大型行程。Durable Objects 比較像託管平台中的有狀態運算單元;Rivet 則強調 open source 與 self-hostable。
差異也正落在這裡。
Cloudflare 提供平台整合、邊緣部署位置與託管維運;Rivet 提供可自行託管的程式碼,以及更自由_choice的後端選擇。代價是團隊必須自行處理基礎設施、升級與故障復原。
長回合任務的關鍵不在模型
擴大模型的 context window,並不會自動解決任務狀態問題。
假設 Agent 要修復一項跨儲存庫的故障。它先讀取程式碼、提出假設、執行測試並等待 CI;期間若有人補充資訊,還得將回饋併入既有判斷。整個過程可能持續數小時。
真正棘手的通常有四項:
- 哪些資訊只適合放在記憶體中。
- 哪些結構化結果必須可靠地寫入磁碟。
- 行程中斷後該如何復原。
- 多人同時操作時,誰擁有最新狀態。
Actor model 给出的答案並非「保存更多歷史」,而是讓狀態跟著執行單元移動。
短期資料可以放在記憶體,結構化狀態寫入 SQLite;需要跨行程或跨機器保存時,再由 S3 提供持久化支援。多回合任務不必每次都從空白環境重新開始。
休眠機制也適合這類工作流程。Agent 一段時間沒有新事件,就會釋放執行資源。後續請求抵達時,再從持久化狀態還原脈絡,而非讓閒置行程持續占用 CPU 與記憶體。
這對研究型 Agent 尤其有用。實驗可能同時執行數十個候選方案,每個方案又會跑多輪,再由人工介入篩選。如果每個候選方案都常駐一個重型沙箱,資源帳通常很難看。
Rivet 也適合需要共享工作區或即時協作的情境。一個 Actor 對外提供 WebSocket,讓多個用戶端連接同一份狀態,省去應用層反覆同步的麻煩。
但這不是「接上模型就能用」的 Agent 框架。Rivet 解決的是執行環境與狀態協調;模型呼叫、工具權限、Prompt 與重試策略,仍須由應用自行定義。
開源協調器的實際邊界
S3、SQLite 與 Actor 的組合雖然輕量,卻不是零成本。
先看狀態延遲。Actor 的熱狀態位於記憶體,冷狀態則寫入 S3。任務復原是否足夠快,取決於實際資料量、請求模式,以及讀取路徑是否已有快取。官方倉庫提供部署與設定入口,但 README 中的架構說明不能取代團隊自己的壓力測試。
再看 SQLite。它適合保存單一 Actor 內部的結構化狀態,卻不適合讓數十個 Actor 同時寫入同一份資料庫。S3 提供持久化後端,也不代表自動解決並行寫入衝突。應用仍須設計冪等操作、狀態版本與復原邊界。
安全邊界同樣需要另行評估。
輕量 Actor 並不天然等同於安全沙箱。若 Actor 能執行 shell、存取憑證或運行第三方程式碼,仍需要容器、隔離帳戶、網路政策與稽核日誌。真正需要本機 GPU、複雜依賴或高強度運算的任務,也不該為了「輕量」而硬塞進 Actor。
哪些團隊會最先受益?
- 需要長時間運行,且頻繁保存狀態的 Agent 產品
- 同時執行大量短生命週期或等待型任務的團隊
- 需要 WebSocket 即時協作的研究工具
- 希望自行託管,並願意自行承擔部分維運工作的開源使用者
哪些情境目前不適合採用?
- 每個 Agent 都需要完整 Linux 工具鏈與瀏覽器沙箱
- 需要本機 GPU 推論或高吞吐量運算
- 高度依賴單一寫入交易制的既有資料庫系統
- 團隊沒有能力維護分散式狀態、監控與復原機制
我的建議是先從小型專案驗證三件事:Actor 冷啟動復原耗時、並行事件下的狀態一致性,以及長期運行後的 S3 成本。別只測試正常路徑。強制終止 Actor、重播訊息、模擬 SQLite 寫入失敗,通常比跑通 Demo 更有資訊價值。
原始專案與架構說明可參考 Rivet GitHub 倉庫。
編輯觀點
Rivet 值得關注,並不是因為又多了一個 Agent 框架,而是因為它將 Agent 執行環境拆解為可持久化、可休眠的狀態單元。這項取捨不同於過去「每個 Agent 一台機器」的做法:重心從算力隔離轉向狀態連續性。
我預期它會先影響研究型任務與多智能體工作流程,而非一般聊天應用。前者需要大量等待、復原與人工介入,狀態成本也更突出;後者通常利用既有後端就能解決。真正的障礙可能藏在維運細節:Actor 復原邏輯、SQLite 邊界、S3 存取模式,以及故障發生時的狀態一致性。
不過,官方描述中的「高密度」與「可擴充」還不能直接當成效能結論。隨著 Actor 數量增加,排程與復原成本會如何變化、休眠門檻是否合適,都需要透過真實工作負載測試。若這些成本能壓在可接受範圍內,這套設計比再包裝一層工具呼叫介面更具長期價值。