工具

Rivet AI Agent 架构解析:Actor 如何降低沙箱成本

Rivet 用 S3-backed Actor 保存 Agent 状态,并通过休眠机制减少空闲资源占用。本文拆解其适用场景、运维成本与安全边界。

字号

Rivet 把每个 AI Agent 放进轻量级 Actor,用 S3 持久化 SQLite 状态。它主要降低等待型 Agent 的空闲成本,但状态恢复、并发一致性和安全隔离仍要自己验证。

Rivet 是 YC W23 项目。官方将它定位为面向 agentic workloads 的高密度、可扩展编排器,核心技术是 actor model。仓库地址是 rivet-dev/rivet。

为什么不用每个 Agent 一个沙箱

常规 Agent 执行环境常见两种做法。

一种是在同一台机器上跑多个进程,用容器或权限边界隔开。另一种是每个 Agent 单独启动完整沙箱。

后者隔离性好,也能容纳浏览器、代码解释器之类重依赖。问题是长期任务可能同时挂着几十个 Agent。沙箱不释放,计算、网络和存储成本却一直存在。

Rivet 的选择是“轻量级 actor backed by S3”。官方描述很直接:不运行每个 Agent 的 heavyweight sandbox,而是让每个 Agent 使用一个由 S3 支持的轻量 Actor。

这里要分清两个概念:

  • Actor 是运行时里的状态单元,不是 Agent 推理逻辑的替代品。
  • S3 是状态后端,不负责调度模型,也不替 Agent 做决策。

因此,Rivet 省掉的主要是常驻执行环境,而不是删掉沙箱能力。Agent 需要执行不受信任代码、调用系统工具时,项目依然需要外部执行层。

它的优势出现在另一类负载:Agent 回合很长,大部分时间都在等待工具返回、等待用户输入,或与其他参与者同步。此时,为每个实例常驻一套重环境并不划算。

S3-backed Actor 到底解决什么

一个 Rivet Actor 能同时提供几项能力:

  • 长期 Agent 回合对应的长生命周期进程
  • 保存上下文的内存状态
  • 面向多人协作的 WebSocket 服务
  • 由 S3 支持的持久化 SQLite 存储
  • 空闲时进入 hibernation

关键不是“Actor 能聊天”,而是任务状态有了明确的归属。

一个长任务重启后,旧实现往往要重建容器、安装依赖、恢复日志,再从检查点重放。Rivet 把需要跨回合保留的数据放进 Actor 状态,SQLite 数据再由 S3 持久化。恢复时不必把整个执行环境一直背在身上。

WebSocket 服务解决的是另一个问题:多个用户或多个 Agent 能围绕同一个状态交互。它不是只接收请求并返回文本的 HTTP worker。服务端和客户端之间可以保持连接,Actor 在内存中维护会话状态。

它和 Cloudflare Durable Objects 的模型很相似。两者都把逻辑与状态绑定到可寻址的 actor,而不是要求所有业务共享一个巨型进程。Durable Objects 更像托管平台里的有状态计算单元;Rivet 强调 open source 和 self-hostable。

区别也在这里。

Cloudflare 给的是平台集成、边缘位置和托管运维。Rivet 给的是可自托管代码,以及更自由的后端选择。代价是团队要自己处理基础设施、升级和故障恢复。

长回合任务的关键不是模型

模型上下文窗口扩大,不会自动解决任务状态问题。

假设一个 Agent 要修一个跨仓库的故障。它先读取代码,提出假设,运行测试,等待 CI;中途有人补充信息,它还要把反馈合并进已有判断。整个过程可能持续数小时。

真正棘手的通常有四项:

  1. 哪些信息只适合放在内存里。
  2. 哪些结构化结果必须可靠落盘。
  3. 进程中断后怎样恢复。
  4. 多人同时操作时谁拥有最新状态。

Actor model 给出的答案不是“存更多历史”,而是让状态跟着执行单元走。

短期数据可以放内存。结构化状态写进 SQLite。需要跨进程或跨机器保存时,再由 S3 提供持久化支撑。多回合任务不必每次都从空白环境开始。

休眠机制也适合这种工作流。Agent 一段时间没有新事件,就释放运行资源。后续请求到达,再从持久化状态恢复上下文,而不是让一个空闲进程持续占着 CPU 和内存。

对研究型 Agent 尤其有用。实验可能要并行跑几十个候选方案,每个方案跑很多轮,再由人介入筛选。如果每个候选都常驻一个重沙箱,资源账通常很难看。

Rivet 也适合需要共享工作区或实时协作的场景。一个 Actor 对外开 WebSocket,多个客户端连接同一份状态,省去了应用层反复同步的麻烦。

但这不是“接上模型就能用”的 Agent 框架。Rivet 解决的是运行时和状态编排。模型调用、工具权限、Prompt、重试策略,仍然要由你的应用定义。

开源编排器的实际边界

S3、SQLite 和 Actor 的组合很轻,但不是零成本。

先看状态延迟。Actor 的热状态在内存,冷状态落向 S3。任务恢复是否足够快,取决于实际数据量、请求模式,以及读取路径有没有做缓存。官方仓库提供部署与配置入口,但 README 的架构描述不能替代自己的压测。

再看 SQLite。它适合单 Actor 内部的结构化状态,不适合让几十个 Actor 同时写同一份数据库。S3 提供持久化后端,也不等于自动解决并发写冲突。应用仍需设计幂等操作、状态版本和恢复边界。

安全边界也要单独算。

轻量 Actor 不天然等于安全沙箱。若 Actor 能执行 shell、访问凭据或运行第三方代码,仍需容器、隔离账户、网络策略和审计日志。真正需要本地 GPU、复杂依赖或高强度计算的任务,也不该为了“轻”而硬塞进 Actor。

哪些团队会先受益?

  • 需要长时间运行、状态频繁保存的 Agent 产品
  • 同时运行大量短生命周期或等待型任务的团队
  • 需要 WebSocket 实时协作的研究工具
  • 希望自托管,并接受自己承担部分运维工作的开源用户

哪些场景暂时不该换?

  • 每个 Agent 都要完整 Linux 工具链和浏览器沙箱
  • 需要本地 GPU 推理或高吞吐计算
  • 强依赖单写事务的现有数据库系统
  • 团队没有能力维护分布式状态、监控和恢复机制

我的建议是先用一个小项目验证三件事:Actor 冷启动恢复耗时、并发事件下的状态一致性、长期运行后的 S3 成本。别只测正常路径。强行终止 Actor、重放消息、模拟 SQLite 写入失败,通常比跑通 Demo 更有信息量。

原始项目与架构说明可参考 Rivet GitHub 仓库。

编辑思考

Rivet 值得关注,不是因为它又造了一个 Agent 框架。真正值得看的是,它把 Agent 运行时拆成可持久化、可休眠的状态单元。这个取舍和过去的“每个 Agent 一台机器”不同:重点从算力隔离转向状态连续性。

我预测它会先影响研究型任务和多智能体工作流,而不是普通聊天应用。前者需要大量等待、恢复和人工介入,状态成本更突出;后者用现有后端通常就能解决。真正的障碍可能在运维细节:Actor 恢复逻辑、SQLite 边界、S3 访问模式,以及故障时的状态一致性。

不过,官方描述里的“高密度”和“可扩展”还不能直接当成性能结论。Actor 数量增加后,调度和恢复成本怎么变,休眠阈值是否合适,都需要用真实工作负载测。若这些成本能压到可接受范围,这套思路会比再加一层工具调用封装更有长期价值。

来源: https://github.com/rivet-dev/rivet