觀點

當 AI 接管 on-call:工程師與系統之間的觸感正在流失

Hacker News 一則 84 分熱帖引發激辯:Sylvain Kalache 指出 AI 接手告警回應後,SRE 的肌肉記憶正快速消失,航空業的歷史教訓似乎正在 SRE 領域重演。

字級

AI 接管 on-call 之後:工程師正在失去對系統的觸感

上週 Hacker News 上一篇貼文衝到 84 分、累積 51 則留言。發文者是 Sylvain Kalache(前 SRE 背景、現為 Red Hat 顧問),核心論點相當刺耳:

AI 處理的生產事故越來越多,但工程師對系統底層行為的直覺與肌肉記憶正在消失。

留言區一半的人在喊「終於有人講出來了」,另一半則在分享各自團隊的慘案——「我上一次手動處理這個故障是三年前」。這不是單一個人的吐槽,而是一群人在集體承認:自動化正在重塑 SRE 這個職業。

來源:HN 原帖、Sylvain 部落格原文。

HN 上在吵什麼

原貼底下的留言大致分成幾個陣營:

  • 認同派(「我們組已經這樣了」):有人貼出內部 incident 復盤紀錄,發現同一個資料庫連線池打滿的故障,過去 5 年發生過 4 次,但最近 2 次完全是 AI 自動處理,工程師只能在 Slack 群裡看 AI 的推理過程。
  • 反駁派(「這是 Luddite 思維」):歷史上汽車取代馬車、CI 取代手動部署,都有人喊技能退化,最後都沒事。
  • 中間派(「看場景」):批次處理可以全自動,但互動式除錯必須留人手。

我在意的不是誰對誰錯,而是留言裡反覆出現的關鍵字——「muscle memory」、「intuition」、「feel for the system」。這些詞在 5 年前幾乎不會出現在 SRE 的討論中。它們現在出現了,代表有些東西確實在流失。

「自動化悖論」不是新詞,但這次不一樣

Automation complacency 這個概念最早來自航空心理學:飛行員長期依賴 autopilot,手動飛行能力會顯著退化。1990 年代幾起空難(例如法航 447)的復盤報告出來後,航空業強制要求飛行員每 90 天必須執行一定時數的手動飛行,就是為了對抗這個效應。

醫療領域也有類似討論。臨床決策支援系統(CDSS)用了 20 多年,醫師對罕見疾病的診斷直覺確實在變鈍。2019 年一項針對放射科醫師的研究發現,長期使用 AI 輔助閱片後,獨立閱片的準確率下降約 10%。

但 SRE 這個場景有一個根本性的不同。

飛行員和醫師面對的是別人造好的系統(飛機、醫療設備),知識斷代無可避免。SRE 面對的是自己團隊搭建的系統。理論上,程式碼是你們寫的、架構是你們設計的、runbook 是你們維護的——知識一直在內部,不存在「外部系統的不可知性」。

然而 AI 介入後,這條鏈路被打斷了。

AI Agent 處理事故時,它讀的 log、它跑的 query、它執行的 runbook 步驟,大部分都不再經過人腦。工程師從「診斷者」變成了「稽核者」——看一眼 AI 的報告、簽個字、關掉 incident。短期來看 MTTR(平均恢復時間)確實降了;長期來看,工程師對自己系統的理解開始出現盲區。

這就是這次不一樣的地方:不是自動化本身有問題,而是自動化的方式繞過了人類的學習迴路。

肌肉記憶怎麼消失的:on-call 的隱形代價

具體怎麼消失的?看三個典型場景。

場景 1:告警自動抑制

過去一個磁碟告警打過來,on-call 工程師登入伺服器、執行 df -h、du -sh /*、定位是哪個日誌目錄膨脹、清理或擴容。整個過程 15 到 30 分鐘,做一次就會記住這個目錄的脾性。

現在 AI Agent 自動跑了同樣的指令鏈,生成一份「已清理 /var/log/app/,釋放 12GB」的報告推送到 Slack。工程師看完,關掉 incident。表面上事故處理完了,實際上工程師什麼都沒做。

場景 2:根因自動定位

Prometheus + Alertmanager 的告警風暴,過去需要工程師交叉比對多個 metric、查 trace、猜是哪個 service 的哪個 commit 引入的。這個過程痛苦但寶貴——逼著你理解 service 之間的依賴關係。

AI Agent 現在能直接調用 Datadog 或自研 AIOps 平台,輸出「根因:svc-order 在 commit abc123 後 CPU 異常」。工程師只需要點確認或回滾。

場景 3:runbook 自動執行

Runbook 從「給人看的步驟清單」變成了「給 AI 呼叫的 API」。這一步最危險——runbook 的意義不只是執行步驟,更是寫 runbook 這個過程本身。寫 runbook 的時候,你要復盤事故、要列前提條件、要考慮邊界情況。這個思考過程沒了。

國內大廠的 AIOps 落地早。字節的智慧告警、阿里雲 ARMS、美團的 CAT(監控告警平台),差不多 2022 到 2023 年就大規模上線了。我認識的幾位國內 SRE 朋友私下聊過類似感受:on-call 體驗確實輕鬆了,但晉升答辯時被問「你們系統最深的瓶頸在哪」,突然答不上來。

當 AI 宕機的那一天,誰來接手?

Sylvain 原文最尖銳的論點在這裡:

當 AI 自己出錯或不可用時,工程師可能已經接不住。

這不是科幻場景。2024 年 CrowdStrike 那次全球藍屏事故,大量企業的故障恢復流程嚴重依賴廠商工具,人工 fallback 路徑早就不會走了。

對應到 SRE 場景:

  • 如果 AIOps 平台依賴的 LLM API 限流或掛了(例如 OpenAI 突發 outage,或國內呼叫境外模型的網路問題)
  • 如果 AI 給出的「根因」是錯的,但沒人覆核,因為大家都預設 AI 是對的
  • 如果 AI 執行的 runbook 步驟把事故搞得更糟,但工程師已經不會手動介入

任何一個場景都是 production fire。

留言區有人提了幾個解法,我挑兩個比較靠譜的:

  • 「AI 缺席日」機制:每週或每月強制一天,完全關閉 AI 輔助,on-call 工程師用傳統方式處理所有 incident。成本是 MTTR 會臨時上升,收益是保留團隊的肌肉記憶。
  • 「postmortem 反向稽核」:AI 處理完的事故,工程師必須事後手動復盤一遍——不是看 AI 的報告,而是親自跑指令、親自看 log、親自得出結論。寫下來的結論和 AI 给的不同時,深挖為什麼。

這兩個方法本質上和航空業的「手動飛行時數」是同一套思路。

中國大廠的 AIOps 落地,已經走到這一步了嗎

字節、阿里、美團的智慧告警系統上線 2 到 3 年了。從公開技術部落格來看,基本都覆蓋了:

  • 時序異常偵測(基於統計模型或輕量 ML)
  • 告警收斂與降噪(從日均幾千條壓到幾十條)
  • 根因定位(圖演算法 + 服務依賴拓樸)
  • 部分場景的自動恢復(K8s pod 重啟、流量切換)

但完全自動化的 incident response在國內大廠仍少見。多數系統停在「AI 給建議、人來確認」的階段。這其實給中國工程師留了一點緩衝——肌肉記憶退化的速度,可能比矽谷慢一拍。

不過這個緩衝不會持續太久。當 LLM Agent 框架(LangGraph、AutoGen、CrewAI)成熟到可以可靠地執行多步工具呼叫,「人確認」這個環節很快就會被跳過。

編輯思考

這件事為什麼重要:它不是另一個「AI 取代人類」的宏觀敘事,而是一個具體工種(SRE)正在發生的隱性失血。工程師從「診斷者」退化成「稽核者」,這個轉變很安靜,沒人喊疼,直到 AI 宕機那天。

一個反共識的判斷:大部分人把這個問題歸類為「技能退化」,但我傾向於認為是「技能定義在遷移」。十年後「懂系統」可能指懂 AI 工具鏈,而不是懂 Linux 核心——就像今天沒人覺得不讀磁帶機就丟了工程師魂。問題不是退化,是遷移過程中的代際錯位。

和過去不同的地方:編譯器替代的是體力勞動(詞法分析),CI 替代的是重複勞動(跑測試),AIOps 是第一次替代判斷本身——連「這個事故是什麼」都替你判斷了。這是質變,不是量變。

不確定的地方:「AI 缺席日」在成本壓力大的中小團隊大概率落不了地,大廠有 SRE 編制才玩得起。所以真正的問題不是要不要保留肌肉記憶,而是組織願不願意為一種「可能用不上」的能力付錢。航空業是用空難換來了這個共識,SRE 行業未必願意付同樣的學費。

來源: https://www.sylvainkalache.com/blog/ai-handles-incidents-engineers-lose-touch-with-their-systems