工具

Omnara 開源 Agent Runtime:讓持久化狀態成為 API 服務

Omnara 將 Agent Loop、沙箱、權限控管與 Postgres 狀態管理整合成一套開源 API,讓 Agent 能在背景持續執行。採用這類自架 Runtime 雖能降低平台鎖定,卻也要求團隊自行負擔資料庫、監控、安全與故障復原等維運責任。

字級

Hacker News 熱門專案 Omnara 試圖取代 Claude Managed Agents,將 Agent Loop、沙箱、權限與 Postgres 狀態管理收進一套開源 API。對需要在背景持續執行 Agent 的團隊而言,這比自行打造佇列、執行環境與復原機制更省事,但也多了一層平台相依性。

原始專案:https://github.com/omnara-ai/omnara

Omnara 不只是 Agent SDK

Omnara 將自己定位為 Claude Managed Agents 的開源替代方案。

它不是替模型呼叫套上一層 API,也不是重新包裝 LangChain、LangGraph 的幾個抽象概念。專案摘要寫得很直白:開發者只需透過一次 API 呼叫建立 Agent,接著由 Omnara 負責執行 Agent Loop。

開發者傳送訊息,並以串流方式接收事件。Agent 在隔離沙箱中執行指令,Runtime 則管理 secrets、permissions 與 RBAC。每個 Agent 的狀態都寫入 Postgres,即使服務重新啟動,工作仍能接續。

這比「打造一個會呼叫工具的聊天機器人」多出一個層次。它提供的不是模型,而是讓 Agent 能持續執行所需的控制面。

多數 Agent SDK 解決的是「如何描述流程」。節點如何連接、工具如何註冊、事件如何回呼,通常仍要由開發者處理。

這些 SDK 往往以 Python 或 TypeScript 行程執行。你在本地啟動它,Agent 就跑在你的機器上;行程一旦結束,工作也隨之中止。

Omnara 更接近 Agent Runtime。依專案摘要的說法,開發者只要透過 API 建立 Agent,平台便會持續執行 Agent Loop。使用者可以向 Agent 傳送訊息,再透過 API 以串流方式接收它產生的事件。

關鍵差異就在「持續」兩個字。

真正可用的背景 Agent,至少必須處理以下情況:

  • 工具呼叫耗時超過一般 HTTP 請求;
  • 工作需要等待外部事件,而非持續占用模型;
  • 容器或主機重新啟動後,工作不能遺失;
  • 不同使用者不能共用不應共用的密鑰;
  • 失控的 shell 指令不能影響其他工作。

因此,Agent SDK 與 Agent Runtime 的分界不在提示詞模板,而在生命週期管理。

Omnara 把這部分放進託管服務。呼叫端只會看到 Agent API,底層則負責執行環境、狀態與控制權限。

一次 API 呼叫就能建立 Agent

Omnara 的使用方式刻意維持得很輕量。

先建立 Agent:

from omnara import Omnara

client = Omnara(api_key="YOUR_API_KEY")
agent = client.agents.create(
    name="research-agent",
    instructions="Research the assigned topic and save the findings.",
)

接著向 Agent 傳送訊息,並消費串流事件:

for event in client.agents.message(
    agent.id,
    message="Find three reliable sources and summarize their key claims.",
):
    print(event)

這段程式碼的結構比實作細節更值得留意:建立與互動彼此分離。Agent 先成為平台中的物件,再接收訊息;每次互動產生的事件都會以串流形式回傳。

客戶端不必自行維持長連線來驅動推理迴圈。平台負責執行 Agent Loop,由模型決定下一步要做什麼,沙箱負責執行,再將事件串流回傳給呼叫端。

這也解釋了為何 Omnara 不只是「SDK」。SDK 通常只提供組件,呼叫端仍得負責啟動行程、部署 worker、串接佇列與保存狀態。Omnara 則試圖把這些 Runtime 職責收回服務端。

代價也隨之而來。程式碼少了,對平台的相依性卻增加了;團隊會開始依賴它的 API、事件格式與部署方式。

沙箱、密鑰與 RBAC 才是真正的門檻

Omnara 為 Agent 提供可執行指令的沙箱,並處理 secrets、permissions 與 RBAC。

相較於多數 Agent Demo,這組能力更接近正式環境的需求。

因為 Agent 一旦能執行指令,問題就不再只是「回答是否正確」。它可能讀取程式碼庫、呼叫內部 API、修改檔案,或把外部網頁內容當成指令執行。

合理的 Runtime 至少必須回答四個問題:

  1. Agent 可以執行哪些指令?
  2. 它會在哪個隔離環境中執行?
  3. 哪些 secrets 可以在什麼範圍內使用?
  4. 哪個使用者或服務有權傳送訊息、查閱日誌與取消工作?

RBAC 負責第四類問題,secrets 處理第三類問題,沙箱則限制第二類問題可能造成的影響範圍。

反直覺之處也在這裡:Agent 基礎設施最困難的部分往往不是推理。模型回答品質可以透過更換模型、調整提示詞與增加評測來改善;指令隔離、憑證外洩與權限越界,通常無法靠一次 prompt 修正。

Omnara 團隊早期曾開發可遠端控制 Claude Code 與 Codex 的行動應用。專案摘要也提到,早期 harness 執行於筆記型電腦上。

這段經歷可說明,它為何把重點放在執行環境,而不是再造一套聊天 UI。

但仍須保持謹慎。專案摘要聲明具備沙箱、權限與 RBAC 能力,卻未在提供的資料中揭露隔離機制、稽核粒度或正式環境 SLA。是否適合高敏感度工作負載,仍需檢查原始碼、部署文件與獨立安全測試。

Postgres 讓 Agent 跨重啟接續執行

專案摘要指出,每個 Agent 的狀態都儲存在 Postgres。因此,Agent 能在服務重啟後恢復,閒置時也不會產生運算成本。

這是 Omnara 與多數「行程內 Agent」最實際的差別。

如果 Agent 狀態只存在記憶體,worker 重啟、容器滾動部署或機器故障都會中斷工作。若要補上狀態,通常還得接一套資料庫與復原邏輯。

Omnara 以 Postgres 作為持久化基礎。工作可以暫停,並在復原後繼續;沒有工作執行時,也不必持續支付模型或運算資源費用。

不過,Postgres 負責保存狀態,不代表它能單獨承擔完整的任務佇列。兩者解決的問題不同:

  • Agent 狀態回答「工作目前進行到哪裡」;
  • 任務佇列回答「下一個工作由誰領取」;
  • 租約與心跳回答「worker 崩潰後如何重試」;
  • 冪等鍵回答「訊息重送時如何避免重複執行」。

實際系統仍可能需要 Redis、RabbitMQ、SQS 或其他佇列元件。Omnara 的關鍵設計,是將 Agent 的連續性建立在 Postgres 上,而不是讓客戶端自行保存完整對話與執行現場。

「閒置時零成本」也需要準確理解。專案摘要採用了這個說法,但它較可能僅表示沒有持續運算開銷,並不代表完全沒有儲存、資料庫或控制面成本。

採用開源替代方案前,先算清維運成本

與 Claude Managed Agents 相比,Omnara 的吸引力很明確:少一層平台鎖定,狀態與執行環境也能更貼近自家基礎設施。

但開源替代品並不是把託管 API 下載到本地,就自動省下一張帳單。

部署 Omnara 的團隊仍得負責以下工作:

  • 準備並維護 Postgres;
  • 監控 Agent Loop、沙箱與事件串流;
  • 追蹤安全修補與相依套件升級;
  • 設計備份、災難復原與故障復原機制;
  • 驗證 secrets、RBAC 與日誌策略。

這才是 Managed Agent 平台真正販售的價值:不是一次模型請求,而是「有人替你確保整套系統持續運作」。

Omnara 省掉的是平台鎖定與部分串接工作。能否省錢,取決於團隊是否已具備 Postgres、容器平台、監控與安全能力。

對個人開發者而言,託管版本可能更省事。對需要自訂權限、保留資料控制權,或已在維運 Kubernetes 與資料庫的平台團隊來說,開源 Runtime 才可能帶來實質優勢。

我的判斷是:如果團隊要把 Claude Managed Agents 換成 Omnara,至少得先回答一個問題——凌晨 worker 崩潰時,誰會接手告警與復原工作?如果答案仍是「原本的平台團隊」,遷移效益可能沒有想像中大。

編輯觀察

Omnara 值得關注,不只因為它在 Hacker News 上走紅,也因為它把 Agent Runtime 的邊界擺到了台面上:模型可以替換,但任務狀態、權限邊界與執行環境,決定 Agent 能否長期運作。團隊選型時,真正該比較的不是單次回答品質,而是崩潰後能否復原、憑證能否隔離,以及工作能否追責。這些問題直接關係到正式環境事故與維運成本。

我的預測則有所不同:Omnara 短期未必會直接取代 Claude Managed Agents。它更可能先吸引需要自架環境、自訂權限與保留資料控制權的平台團隊;個人開發者則仍會選擇託管版本。這也與過去的 Agent SDK 不同,Omnara 爭奪的是 Runtime 控制權,而不只是一組開發抽象。不過,現有資料不足以驗證其隔離強度、Postgres 並發模型與大規模事件串流的表現,相關結論仍有待原始碼與壓力測試結果佐證。

來源: https://github.com/omnara-ai/omnara