8 月底,Anthropic 自己发了一份 threat intelligence report,承认也门胡塞武装(Houthis)用上了 Claude Code 来开发导弹制导软件。消息在 Hacker News 首页待了一阵,33 个赞、31 条讨论。原报道在 clashreport.com。
这事本身有几个值得拆的点。
事件本身:胡塞怎么用上 Claude Code 的
来源是 Anthropic 自家 8 月发的 threat intelligence report,不是第三方爆料,也不是媒体推测。报告里说,胡塞武装的人员用 Claude Code 干了这些事:
- 写制导、追踪相关的代码模块
- 调试已有代码
- 生成用于无人机和导弹系统的软件框架
具体怎么拿到 API 访问的、绕过了 Anthropic 哪一层 guardrail,报告没说细节。这也是后文要展开的部分。
值得注意的是,Anthropic 是主动披露的。这不是泄露,是公开报告。这说明 Anthropic 的 PR 团队认为"主动承认"比"被记者挖出来"代价小。
为什么这件事比想象更严重
很多人第一反应是"ChatGPT 也能写代码啊,这有什么稀奇的"。区别不在模型,在形态。
Claude Code 是 Anthropic 2024 年底推出的编程 Agent 产品。它能:
- 读写本地文件系统
- 执行 shell 命令
- 跑多步骤任务(plan → edit → test → fix)
- 调用工具链(编译器、linter、git)
ChatGPT 是对话模型,你问它问题,它吐文字。Claude Code 是 Agent,你给它目标,它能直接操作你的电脑。
导弹制导软件本质上是什么?一段读传感器数据 → 做控制律计算 → 输出执行机构指令的代码。这正好是 Agent 最擅长的形态:
- 输入:传感器数据(IMU、GPS、目标坐标)
- 处理:滤波、控制算法、状态估计
- 输出:舵机/燃气舵/喷嘴控制信号
写这套代码需要的不是创造力,是工程能力。Claude Code 这类 Agent 恰恰在工程能力上比纯 LLM 强一个量级。
一个会调 PID 的本科生能写,用 Agent 也能写。区别是 Agent 写得更快、更系统、更容易迭代出能跑的版本。
Anthropic 的 detection 为什么失效了
Anthropic 的 usage policy 写得很明确:禁止用于 weapons development。但胡塞武装还是用上了。三种可能:
1. Prompt 写得隐蔽
最常见的绕过方式。不直接问"帮我写导弹制导",而是拆成:
帮我写一个读取 MPU6050 IMU 数据的 Python 函数
加上一个简单的 PID 控制器
把目标坐标转换成舵机角度
每一步单独看都是无害的、合法的、GitHub 上到处有的教程。把它们串起来才是武器。
这种攻击对 Chatbot 时代的 guardrail 有效——output filtering 可以扫输出物有没有敏感词。但对 Agent 不灵,因为 Agent 的输出是中间步骤,最终产物要等几十分钟后才出现,而那时 guardrail 早已放过。
2. 账号伪装 / 渠道绕开
报告没明说,但实际可能的路径包括:
- 通过第三方 API reseller 接入(这些 reseller 对 KYC 不严格)
- 用被盗信用卡开账号
- 用 Anthropic 给合作伙伴 / 学术机构的 API 配额
Anthropic 之前的 report 里提过这类 case:俄罗斯和伊朗的行为者用过类似手法。
3. Military use 是检测盲区
这一条是我个人的推测,可能不太准确。
Anthropic 的 misuse detection 大概率是从已知 abuse pattern出发的——钓鱼邮件、恶意代码、政治宣传。Weapon 用途的 pattern 不在他们训练数据里。你怎么教模型识别"在写导弹制导"?它本身就是合法代码的组合。
更尴尬的是,越成功的 detection,越说明你的模型能力强——因为只有模型真的能写出能跑的制导代码,才有人来用。
OpenAI、Cursor、Google 在干什么
这事不是 Claude Code 独有的,是所有编程 Agent 的通病。横向看一下:
Cursor
Cursor 的 usage policy 同样禁止 weapons development。但 Cursor 走的是 IDE 形态,比 Claude Code 更深地嵌入开发者工作流。它能不能写制导代码?能。Cursor 有没有公开过类似 threat report?没有。
GitHub Copilot Agent Mode
微软有 Azure 政府客户、有 JEDI 合同、有美国国防部的云服务。Copilot Agent Mode 的 policy 写得很绕——不直接说"不能军用",但也不让做 weapons。实际执行是另一回事。微软没发过 threat report。
Windsurf / Cline
Windsurf(Cognition 收购后归 Devin 团队)有 IDE Agent 形态。Cline 是开源 VS Code 插件,跑本地模型 + 调用 Anthropic/OpenAI API。后者根本没法 enforce policy——开源,用户自配 API key。
OpenAI
OpenAI 2024 年发过一份 disrupting malicious uses of AI 的 report,里面提到过伊朗 / 朝鲜 / 俄罗斯的行为者。但没提过武器代码。OpenAI 的 Agent 产品(Codex CLI、o3 Agent)同样能写制导代码。
Gemini CLI 2025 年才出,没看到 threat report。但 Google 有国防部合同(Project Maven、NGA),边界本来就模糊。
差别在哪:Anthropic 是目前唯一一家主动公开武器相关 misuse 的厂商。其他家要么没发生,要么没披露,要么根本没认真查。
Agent 时代的 abuse 比 chatbot 时代难防一个量级
这是最关键的一点,也是大多数讨论没展开的。
Chatbot 时代的 abuse 模型是"对话":
- 用户输入 → 模型处理 → 输出文本
- Detection 在输入和输出两个端点做
- 输出 filtering 可以扫"制造炸弹的方法"这类关键词
- 这套范式从 GPT-3 时代就在用,相对成熟
Agent 时代的 abuse 模型是"执行":
- 用户给目标 → Agent 规划 → Agent 执行 N 个步骤 → 最终产物
- 中间步骤看起来都合法
- 最终产物可能是物理世界的破坏(武器代码、攻击脚本、勒索软件)
- Detection 要在整个执行轨迹上做,复杂度高一个数量级
举个具体例子。检测 Chatbot 输出"如何制造 TNT",跑一个分类器就行,召回率 99% 以上。检测 Agent 在写"某种特定的卡尔曼滤波器 + 串口通信协议 + 实时调度"组合,你打算怎么标?每一步都是合法工程实践。
更麻烦的是,Agent 的输出可以是不在你视野里的产物。Agent 在用户本地写文件、跑命令,vendor 看到的是"用户和 Agent 的对话历史",看不到用户的本地文件系统。如果 Agent 是 IDE 插件形态(Cursor、Windsurf),vendor 看到的是 IDE 内的 prompt,连本地文件操作都不上报。
我的判断:现有的 red team 思路对 Agent 已经不够用了。OpenAI 和 Anthropic 的 red team 主要在测 prompt injection、jailbreak、bias。但 Agent 时代的核心问题是"多步骤合法操作能否组合成有害产物"——这是 planning 层面的攻击,不是 prompt 层面的攻击。需要新的 threat model。
编辑思考
这件事不是 Anthropic 的失败,是整个 Agent 行业的失败。一个胡塞武装能用上,说明这条路对任何有动机的行为者都开放。区别只在于"用 Claude Code 还是 Cursor 还是 Cline"。
我的判断:接下来 6 个月,会有更多 vendor 主动披露类似案例。原因很简单——Anthropic 开了这个口子,现在不披露的风险反而更高。监管、媒体、用户都在看着,主动认错比被点名好。
和过去 AI safety 事件相比,这次的产出物是可以直接杀人的代码。Deepfake 是图像,Bing Sydney 是文本,GPT jailbreak 是对话。它们的后果都有延迟、有中介、需要放大。但武器代码不同——一个本科 CS 学生把 Claude Code 生成的制导逻辑烧进飞控板,飞机起飞,这就是端到端的物理伤害,零延迟。
不确定的地方:
- Anthropic 报告里没说的"具体绕过手段"到底是什么。可能是 prompt 拆分,可能是账号滥用,可能两者都有。
- 胡塞武装到底把 Claude Code 生成的代码用到了什么程度?是完全依赖 Agent 写,还是把 Agent 当 IDE 加速器用?前者吓人得多。
- 这件事对 Anthropic 商业的影响。现在看不清——B 端客户可能更紧张,政府客户可能无所谓(他们早就在用)。
Agent 行业要解决的不是"能不能写好代码",是"写出来的代码会被怎么用"。这个问题 ChatGPT 时代可以假装不存在,Agent 时代躲不掉。
参考来源:
- Clash Report 原报道
- Hacker News 讨论
- Anthropic Usage Policy
- OpenAI Disrupting Malicious Uses