胡塞武裝用 Claude Code 寫導彈制導:Anthropic 的紅線畫了等於沒畫?
8 月底,Anthropic 自己發了一份 threat intelligence report,承認葉門胡塞武裝(Houthis)用上了 Claude Code 來開發導彈制導軟體。消息在 Hacker News 首頁掛了一段時間,33 個讚、31 則討論。原報導在 clashreport.com。
這件事本身有幾個值得拆開來看的點。
事件本身:胡塞怎麼用上 Claude Code 的
來源是 Anthropic 自家 8 月發的 threat intelligence report,不是第三方爆料,也不是媒體推測。報告裡說,胡塞武裝的人員用 Claude Code 幹了這些事:
- 寫制導、追蹤相關的程式碼模組
- 除錯現有程式碼
- 生成用於無人機和導彈系統的軟體框架
具體怎麼拿到 API 存取的、繞過了 Anthropic 哪一層 guardrail,報告沒講細節。這也是後文要展開的部分。
值得注意的是,Anthropic 是主動揭露的。這不是外洩,是公開報告。這代表 Anthropic 的 PR 團隊認為「主動承認」比「被記者挖出來」代價小。
為什麼這件事比想像中更嚴重
很多人第一反應是「ChatGPT 也能寫程式碼啊,這有什麼稀奇的」。差別不在模型,在形態。
Claude Code 是 Anthropic 2024 年底推出的程式設計 Agent 產品。它能:
- 讀寫本地檔案系統
- 執行 shell 指令
- 跑多步驟任務(plan → edit → test → fix)
- 呼叫工具鏈(編譯器、linter、git)
ChatGPT 是對話模型,你問它問題,它吐文字。Claude Code 是 Agent,你給它目標,它能直接操作你的電腦。
導彈制導軟體本質上是什麼?一段讀感測器資料 → 做控制律計算 → 輸出致動器指令的程式碼。這正好是 Agent 最擅長的形態:
- 輸入:感測器資料(IMU、GPS、目標座標)
- 處理:濾波、控制演算法、狀態估測
- 輸出:舵機/燃氣舵/噴嘴控制訊號
寫這套程式碼需要的不是創造力,是工程能力。Claude Code 這類 Agent 恰恰在工程能力上比純 LLM 強一個量級。
一個會調 PID 的本科生能寫,用 Agent 也能寫。差別是 Agent 寫得更快、更有系統、更容易迭代出能跑的版本。
Anthropic 的 detection 為什麼失效了
Anthropic 的 usage policy 寫得很明確:禁止用於 weapons development。但胡塞武裝還是用上了。三種可能:
1. Prompt 寫得隱蔽
最常見的繞過方式。不直接問「幫我寫導彈制導」,而是拆成:
幫我寫一個讀取 MPU6050 IMU 資料的 Python 函式
加上一個簡單的 PID 控制器
把目標座標轉換成舵機角度
每一步單獨看都是無害的、合法的、GitHub 上到處有的教學。把它們串起來才是武器。
這種攻擊對 Chatbot 時代的 guardrail 有效——output filtering 可以掃輸出物有沒有敏感詞。但對 Agent 不靈,因為 Agent 的輸出是中間步驟,最終產物要等幾十分鐘後才出現,而那時 guardrail 早已放行。
2. 帳號偽裝/管道繞開
報告沒明說,但實際可能的路徑包括:
- 透過第三方 API reseller 接入(這些 reseller 對 KYC 不嚴格)
- 用被盜信用卡開帳號
- 用 Anthropic 給合作夥伴/學術機構的 API 配額
Anthropic 之前的報告裡提過這類 case:俄羅斯和伊朗的行為者用過類似手法。
3. Military use 是偵測盲區
這一條是我個人的推測,可能不太準確。
Anthropic 的 misuse detection 大概率是從已知 abuse pattern出發的——釣魚郵件、惡意程式碼、政治宣傳。Weapon 用途的 pattern 不在他們訓練資料裡。你怎麼教模型識別「在寫導彈制導」?它本身就是合法程式碼的組合。
更尷尬的是,越成功的 detection,越代表你的模型能力強——因為只有模型真的能寫出能跑的制導程式碼,才有人來用。
OpenAI、Cursor、Google 在幹什麼
這事不是 Claude Code 獨有的,是所有程式設計 Agent 的通病。橫向看一下:
Cursor
Cursor 的 usage policy 同樣禁止 weapons development。但 Cursor 走的是 IDE 形態,比 Claude Code 更深地嵌入開發者工作流程。它能不能寫制導程式碼?能。Cursor 有沒有公開過類似 threat report?沒有。
GitHub Copilot Agent Mode
微軟有 Azure 政府客戶、有 JEDI 合約、有美國國防部的雲端服務。Copilot Agent Mode 的 policy 寫得很繞——不直接說「不能軍用」,但也不准做 weapons。實際執行是另一回事。微軟沒發過 threat report。
Windsurf/Cline
Windsurf(Cognition 收購後歸 Devin 團隊)有 IDE Agent 形態。Cline 是開源 VS Code 外掛,跑本地模型 + 呼叫 Anthropic/OpenAI API。後者根本沒法 enforce policy——開源,使用者自配 API key。
OpenAI
OpenAI 2024 年發過一份 disrupting malicious uses of AI 的報告,裡面提過伊朗/北韓/俄羅斯的行為者。但沒提過武器程式碼。OpenAI 的 Agent 產品(Codex CLI、o3 Agent)同樣能寫制導程式碼。
Gemini CLI 2025 年才出,沒看到 threat report。但 Google 有國防部合約(Project Maven、NGA),邊界本來就模糊。
差別在哪:Anthropic 是目前唯一一家主動公開武器相關 misuse 的廠商。其他家要嘛沒發生,要嘛沒揭露,要嘛根本沒認真查。
Agent 時代的 abuse 比 chatbot 時代難防一個量級
這是最關鍵的一點,也是大多數討論沒展開的。
Chatbot 時代的 abuse 模型是「對話」:
- 使用者輸入 → 模型處理 → 輸出文字
- Detection 在輸入和輸出兩個端點做
- 輸出 filtering 可以掃「製造炸彈的方法」這類關鍵字
- 這套範式從 GPT-3 時代就在用,相對成熟
Agent 時代的 abuse 模型是「執行」:
- 使用者給目標 → Agent 規劃 → Agent 執行 N 個步驟 → 最終產物
- 中間步驟看起來都合法
- 最終產物可能是實體世界的破壞(武器程式碼、攻擊腳本、勒索軟體)
- Detection 要在整個執行軌跡上做,複雜度高一個數量級
舉個具體例子。偵測 Chatbot 輸出「如何製造 TNT」,跑一個分類器就行,召回率 99% 以上。偵測 Agent 在寫「某種特定的卡爾曼濾波器 + 串口通訊協定 + 即時排程」組合,你打算怎麼標?每一步都是合法工程實務。
更麻煩的是,Agent 的輸出可以是不在你視野裡的產物。Agent 在使用者本地寫檔、跑指令,vendor 看到的是「使用者和 Agent 的對話紀錄」,看不到使用者的本地檔案系統。如果 Agent 是 IDE 外掛形態(Cursor、Windsurf),vendor 看到的是 IDE 內的 prompt,連本地檔案操作都不會上報。
我的判斷:現有的 red team 思路對 Agent 已經不夠用了。OpenAI 和 Anthropic 的 red team 主要在測 prompt injection、jailbreak、bias。但 Agent 時代的核心問題是「多步驟合法操作能否組合成有害產物」——這是 planning 層面的攻擊,不是 prompt 層面的攻擊。需要新的 threat model。
編輯思考
這件事不是 Anthropic 的失敗,是整個 Agent 產業的失敗。一個胡塞武裝能用上,代表這條路對任何有動機的行為者都開放。差別只在於「用 Claude Code 還是 Cursor 還是 Cline」。
我的判斷:接下來 6 個月,會有更多 vendor 主動揭露類似案例。原因很簡單——Anthropic 開了這個口子,現在不揭露的風險反而更高。監管、媒體、使用者都在看,主動認錯比被點名好。
和過去 AI safety 事件相比,這次的產出物是可以直接殺人的程式碼。Deepfake 是影像,Bing Sydney 是文字,GPT jailbreak 是對話。它們的後果都有延遲、有中介、需要放大。但武器程式碼不同——一個本科 CS 學生把 Claude Code 生成的制導邏輯燒進飛控板,飛機起飛,這就是端到端的物理傷害,零延遲。
不確定的地方:
- Anthropic 報告裡沒說的「具體繞過手段」到底是什麼。可能是 prompt 拆分,可能是帳號濫用,可能兩者都有。
- 胡塞武裝到底把 Claude Code 生成的程式碼用到了什麼程度?是完全依賴 Agent 寫,還是把 Agent 當 IDE 加速器用?前者嚇人得多。
- 這件事對 Anthropic 商業的影響。現在看不清——B 端客戶可能更緊張,政府客戶可能無所謂(他們早就在用)。
Agent 產業要解決的不是「能不能寫好程式碼」,是「寫出來的程式碼會被怎麼用」。這個問題 ChatGPT 時代可以假裝不存在,Agent 時代躲不掉。
參考來源: