上周 Hacker News 上一篇博客冲到 84 分、51 条评论。帖子来自 Sylvain Kalache(前 SRE 背景,现 Red Hat 顾问),核心论断很扎心:
AI 越来越多地处理生产事故,但工程师失去了对系统底层行为的直觉和肌肉记忆。
评论区一半人在喊"终于有人说了",另一半在分享自己团队的"我上次手排这个故障是三年前"的惨案。这不是一个人吐槽,是一群人在集体承认:自动化正在重塑 SRE 这个职业。
来源:HN 原帖、Sylvain 博客原文。
HN 上在吵什么
原帖底下评论分成了几个派别:
- 认同派("我们组已经这样了"):有人贴出内部 incident 复盘记录,发现同一个数据库连接池打满的故障,过去 5 年发生过 4 次,但近 2 次完全是 AI 自动处理的,工程师只能在 Slack 群里看 AI 的推理过程。
- 反驳派("这是 Luddite 思维"):历史上汽车取代马车、CI 取代手动部署都有人喊技能退化,最后都没事。
- 中间派("看场景"):批处理可以全自动,但 interactive debugging 必须留人手。
我在意的不是谁对谁错,是评论里反复出现的关键词 ——"muscle memory"、"intuition"、"feel for the system"。这些词在 5 年前几乎不会出现在 SRE 的讨论里。它们现在出现了,说明有些东西真的在流失。
「自动化悖论」不是新词,但这次不一样
Automation complacency 这个概念最早来自航空心理学:飞行员长期依赖 autopilot,手动飞行能力会显著退化。1990 年代几起空难(比如法航 447)复盘后,航空业强制要求飞行员每 90 天做一次手动飞行小时数,就是为了对抗这个效应。
医疗领域也有类似讨论。临床决策支持系统(CDSS)用了 20 多年,医生对罕见病的诊断直觉确实在变钝。2019 年一项对放射科医生的研究发现,长期使用 AI 辅助阅片后,独立阅片的准确率下降约 10%。
但 SRE 这个场景有一个根本性的不同。
飞行员和医生面对的是别人造好的系统(飞机、医疗设备),知识断代不可避免。SRE 面对的是自己团队搭建的系统。理论上,代码是你们写的,架构是你们设计的,runbook 是你们维护的 —— 知识一直在内部,不存在「外部系统的不可知性」。
然而 AI 介入后,这条链路被打断了。
AI Agent 处理事故时,它读的 log、它跑的 query、它执行的 runbook 步骤,大部分都不再经过人脑。工程师从「诊断者」变成了「审计者」—— 看一眼 AI 的报告,签个字,关掉 incident。短期看 MTTR(平均恢复时间)确实降了。长期看,工程师对自己系统的理解开始出现盲区。
这就是这次不一样的地方:不是自动化本身有问题,而是自动化的方式绕过了人类的学习回路。
肌肉记忆怎么消失的:on-call 的隐形代价
具体怎么消失的?看三个典型场景。
场景 1:告警自动抑制
过去一个磁盘告警打过来,on-call 工程师登服务器、df -h、du -sh /*、定位到是哪个日志目录膨胀、清理或扩容。整个过程 15-30 分钟,做一次就记住这个目录的脾性。
现在 AI Agent 自动跑了同样的命令链,生成一份「已清理 /var/log/app/,释放 12GB」的报告推送到 Slack。工程师看完,关掉 incident。表面上事故处理完了,实际上工程师什么都没做。
场景 2:根因自动定位
Prometheus + Alertmanager 的告警风暴,过去需要工程师交叉比对多个 metric、查 trace、猜是哪个 service 的哪个 commit 引入的。这个过程痛苦但宝贵 —— 逼着你理解 service 之间的依赖关系。
AI Agent 现在能直接调 Datadog 或自研 AIOps 平台,输出「根因:svc-order 在 commit abc123 后 CPU 异常」。工程师只需要点确认或回滚。
场景 3:runbook 自动执行
Runbook 从「给人看的步骤清单」变成了「给 AI 调用的 API」。这一步最危险 —— runbook 的意义不只是执行步骤,更是写 runbook 这个过程本身。写 runbook 的时候,你要复盘事故、要列前提条件、要考虑边界情况。这个思考过程没了。
国内大厂的 AIOps 落地早。字节的智能告警、阿里云 ARMS、美团的 CAT(监控告警平台),差不多 2022-2023 年就大规模上线了。我认识的几位国内 SRE 朋友私下聊过类似感受:on-call 体验确实轻松了,但晋升答辩时被问「你们系统最深的瓶颈在哪」,突然答不上来。
当 AI 宕机的那一天,谁来接手?
Sylvain 原文最尖锐的论点在这里:
当 AI 自己出错或不可用时,工程师可能已经接不住。
这不是科幻场景。2024 年 CrowdStrike 的那次全球蓝屏事故,大量企业的故障恢复流程严重依赖厂商工具,人工 fallback 路径早就不熟。
迁移到 SRE 场景:
- 如果你们的 AIOps 平台依赖的 LLM API 限流或挂了(比如 OpenAI 突发 outage,或者国内调用境外模型的网络问题)
- 如果 AI 给出的「根因」是错的,但没人复核,因为大家都默认 AI 是对的
- 如果 AI 执行的 runbook 步骤把事故搞得更糟,但工程师已经不会手动介入
任何一个场景都是 production fire。
评论区有人提了几个解法,我挑两个靠谱的:
- 「AI 缺席日」机制:每周或每月强制一天,完全关闭 AI 辅助,on-call 工程师用传统方式处理所有 incident。成本是 MTTR 会临时上升,收益是保留团队的肌肉记忆。
- 「postmortem 反向审计」:AI 处理完的事故,工程师必须事后手动复盘一遍 —— 不是看 AI 的报告,而是亲自跑命令、亲自看 log、亲自得出结论。写下来的结论和 AI 给的不一样时,深挖为什么。
这两个方法本质上和航空业的「手动飞行小时数」是同一思路。
中国大厂的 AIOps 落地,已经走到这一步了吗
字节、阿里、美团的智能告警系统上线 2-3 年了。从公开技术博客看,基本都覆盖了:
- 时序异常检测(基于统计模型或轻量 ML)
- 告警收敛和降噪(从日均几千条压到几十条)
- 根因定位(图算法 + 服务依赖拓扑)
- 部分场景的自动恢复(K8s pod 重启、流量切换)
但完全自动化的 incident response 在国内大厂仍少见。多数系统停在「AI 给建议、人来确认」的阶段。这其实给中国工程师留了一点缓冲 —— 肌肉记忆退化的速度,可能比硅谷慢一拍。
不过这个缓冲不会持续太久。当 LLM Agent 框架(LangGraph、AutoGen、CrewAI)成熟到可以可靠地执行多步工具调用,「人确认」这个环节很快会被跳过。
编辑思考
这件事为什么重要:它不是又一个「AI 取代人类」的宏观叙事,而是一个具体工种(SRE)正在发生的隐性失血。工程师从「诊断者」退化成「审计者」,这个转变很安静,没人喊疼,直到 AI 宕机那天。
一个反共识的判断:大部分人把这个问题归类为「技能退化」,但我倾向于是「技能定义在迁移」。十年后「懂系统」可能指懂 AI 工具链,而不是懂 Linux 内核 —— 就像今天没人觉得不读磁带机就丢了工程师魂。问题不是退化,是迁移过程中的代际错位。
和过去不同的地方:编译器替代的是体力劳动(词法分析),CI 替代的是重复劳动(跑测试),AIOps 是第一次替代判断本身 —— 连「这个事故是什么」都替你判断了。这是质变,不是量变。
不确定的地方:「AI 缺席日」在成本压力大的中小团队大概率落不了地,大厂有 SRE 编制才玩得起。所以真正的问题不是要不要保留肌肉记忆,而是组织愿不愿意为一种"可能用不上"的能力付钱。航空业是用空难换来了这个共识,SRE 行业未必愿意付同样的学费。