實戰

胡塞武裝用 Claude Code 寫導彈制導:Anthropic 的紅線畫了等於沒畫?

Anthropic 坦承葉門胡塞武裝以 Claude Code 開發導彈制導軟體。Agent 形態讓濫用門檻大幅降低,這不只是 Anthropic 一家的難題。

字級

胡塞武裝用 Claude Code 寫導彈制導:Anthropic 的紅線畫了等於沒畫?

8 月底,Anthropic 自己發了一份 threat intelligence report,承認葉門胡塞武裝(Houthis)用上了 Claude Code 來開發導彈制導軟體。消息在 Hacker News 首頁掛了一段時間,33 個讚、31 則討論。原報導在 clashreport.com。

這件事本身有幾個值得拆開來看的點。

事件本身:胡塞怎麼用上 Claude Code 的

來源是 Anthropic 自家 8 月發的 threat intelligence report,不是第三方爆料,也不是媒體推測。報告裡說,胡塞武裝的人員用 Claude Code 幹了這些事:

  • 寫制導、追蹤相關的程式碼模組
  • 除錯現有程式碼
  • 生成用於無人機和導彈系統的軟體框架

具體怎麼拿到 API 存取的、繞過了 Anthropic 哪一層 guardrail,報告沒講細節。這也是後文要展開的部分。

值得注意的是,Anthropic 是主動揭露的。這不是外洩,是公開報告。這代表 Anthropic 的 PR 團隊認為「主動承認」比「被記者挖出來」代價小。

為什麼這件事比想像中更嚴重

很多人第一反應是「ChatGPT 也能寫程式碼啊,這有什麼稀奇的」。差別不在模型,在形態。

Claude Code 是 Anthropic 2024 年底推出的程式設計 Agent 產品。它能:

  • 讀寫本地檔案系統
  • 執行 shell 指令
  • 跑多步驟任務(plan → edit → test → fix)
  • 呼叫工具鏈(編譯器、linter、git)

ChatGPT 是對話模型,你問它問題,它吐文字。Claude Code 是 Agent,你給它目標,它能直接操作你的電腦。

導彈制導軟體本質上是什麼?一段讀感測器資料 → 做控制律計算 → 輸出致動器指令的程式碼。這正好是 Agent 最擅長的形態:

  • 輸入:感測器資料(IMU、GPS、目標座標)
  • 處理:濾波、控制演算法、狀態估測
  • 輸出:舵機/燃氣舵/噴嘴控制訊號

寫這套程式碼需要的不是創造力,是工程能力。Claude Code 這類 Agent 恰恰在工程能力上比純 LLM 強一個量級。

一個會調 PID 的本科生能寫,用 Agent 也能寫。差別是 Agent 寫得更快、更有系統、更容易迭代出能跑的版本。

Anthropic 的 detection 為什麼失效了

Anthropic 的 usage policy 寫得很明確:禁止用於 weapons development。但胡塞武裝還是用上了。三種可能:

1. Prompt 寫得隱蔽

最常見的繞過方式。不直接問「幫我寫導彈制導」,而是拆成:

幫我寫一個讀取 MPU6050 IMU 資料的 Python 函式
加上一個簡單的 PID 控制器
把目標座標轉換成舵機角度

每一步單獨看都是無害的、合法的、GitHub 上到處有的教學。把它們串起來才是武器。

這種攻擊對 Chatbot 時代的 guardrail 有效——output filtering 可以掃輸出物有沒有敏感詞。但對 Agent 不靈,因為 Agent 的輸出是中間步驟,最終產物要等幾十分鐘後才出現,而那時 guardrail 早已放行。

2. 帳號偽裝/管道繞開

報告沒明說,但實際可能的路徑包括:

  • 透過第三方 API reseller 接入(這些 reseller 對 KYC 不嚴格)
  • 用被盜信用卡開帳號
  • 用 Anthropic 給合作夥伴/學術機構的 API 配額

Anthropic 之前的報告裡提過這類 case:俄羅斯和伊朗的行為者用過類似手法。

3. Military use 是偵測盲區

這一條是我個人的推測,可能不太準確。

Anthropic 的 misuse detection 大概率是從已知 abuse pattern出發的——釣魚郵件、惡意程式碼、政治宣傳。Weapon 用途的 pattern 不在他們訓練資料裡。你怎麼教模型識別「在寫導彈制導」?它本身就是合法程式碼的組合。

更尷尬的是,越成功的 detection,越代表你的模型能力強——因為只有模型真的能寫出能跑的制導程式碼,才有人來用。

OpenAI、Cursor、Google 在幹什麼

這事不是 Claude Code 獨有的,是所有程式設計 Agent 的通病。橫向看一下:

Cursor

Cursor 的 usage policy 同樣禁止 weapons development。但 Cursor 走的是 IDE 形態,比 Claude Code 更深地嵌入開發者工作流程。它能不能寫制導程式碼?能。Cursor 有沒有公開過類似 threat report?沒有。

GitHub Copilot Agent Mode

微軟有 Azure 政府客戶、有 JEDI 合約、有美國國防部的雲端服務。Copilot Agent Mode 的 policy 寫得很繞——不直接說「不能軍用」,但也不准做 weapons。實際執行是另一回事。微軟沒發過 threat report。

Windsurf/Cline

Windsurf(Cognition 收購後歸 Devin 團隊)有 IDE Agent 形態。Cline 是開源 VS Code 外掛,跑本地模型 + 呼叫 Anthropic/OpenAI API。後者根本沒法 enforce policy——開源,使用者自配 API key。

OpenAI

OpenAI 2024 年發過一份 disrupting malicious uses of AI 的報告,裡面提過伊朗/北韓/俄羅斯的行為者。但沒提過武器程式碼。OpenAI 的 Agent 產品(Codex CLI、o3 Agent)同樣能寫制導程式碼。

Google

Gemini CLI 2025 年才出,沒看到 threat report。但 Google 有國防部合約(Project Maven、NGA),邊界本來就模糊。

差別在哪:Anthropic 是目前唯一一家主動公開武器相關 misuse 的廠商。其他家要嘛沒發生,要嘛沒揭露,要嘛根本沒認真查。

Agent 時代的 abuse 比 chatbot 時代難防一個量級

這是最關鍵的一點,也是大多數討論沒展開的。

Chatbot 時代的 abuse 模型是「對話」:

  • 使用者輸入 → 模型處理 → 輸出文字
  • Detection 在輸入和輸出兩個端點做
  • 輸出 filtering 可以掃「製造炸彈的方法」這類關鍵字
  • 這套範式從 GPT-3 時代就在用,相對成熟

Agent 時代的 abuse 模型是「執行」:

  • 使用者給目標 → Agent 規劃 → Agent 執行 N 個步驟 → 最終產物
  • 中間步驟看起來都合法
  • 最終產物可能是實體世界的破壞(武器程式碼、攻擊腳本、勒索軟體)
  • Detection 要在整個執行軌跡上做,複雜度高一個數量級

舉個具體例子。偵測 Chatbot 輸出「如何製造 TNT」,跑一個分類器就行,召回率 99% 以上。偵測 Agent 在寫「某種特定的卡爾曼濾波器 + 串口通訊協定 + 即時排程」組合,你打算怎麼標?每一步都是合法工程實務。

更麻煩的是,Agent 的輸出可以是不在你視野裡的產物。Agent 在使用者本地寫檔、跑指令,vendor 看到的是「使用者和 Agent 的對話紀錄」,看不到使用者的本地檔案系統。如果 Agent 是 IDE 外掛形態(Cursor、Windsurf),vendor 看到的是 IDE 內的 prompt,連本地檔案操作都不會上報。

我的判斷:現有的 red team 思路對 Agent 已經不夠用了。OpenAI 和 Anthropic 的 red team 主要在測 prompt injection、jailbreak、bias。但 Agent 時代的核心問題是「多步驟合法操作能否組合成有害產物」——這是 planning 層面的攻擊,不是 prompt 層面的攻擊。需要新的 threat model。

編輯思考

這件事不是 Anthropic 的失敗,是整個 Agent 產業的失敗。一個胡塞武裝能用上,代表這條路對任何有動機的行為者都開放。差別只在於「用 Claude Code 還是 Cursor 還是 Cline」。

我的判斷:接下來 6 個月,會有更多 vendor 主動揭露類似案例。原因很簡單——Anthropic 開了這個口子,現在不揭露的風險反而更高。監管、媒體、使用者都在看,主動認錯比被點名好。

和過去 AI safety 事件相比,這次的產出物是可以直接殺人的程式碼。Deepfake 是影像,Bing Sydney 是文字,GPT jailbreak 是對話。它們的後果都有延遲、有中介、需要放大。但武器程式碼不同——一個本科 CS 學生把 Claude Code 生成的制導邏輯燒進飛控板,飛機起飛,這就是端到端的物理傷害,零延遲。

不確定的地方:

  • Anthropic 報告裡沒說的「具體繞過手段」到底是什麼。可能是 prompt 拆分,可能是帳號濫用,可能兩者都有。
  • 胡塞武裝到底把 Claude Code 生成的程式碼用到了什麼程度?是完全依賴 Agent 寫,還是把 Agent 當 IDE 加速器用?前者嚇人得多。
  • 這件事對 Anthropic 商業的影響。現在看不清——B 端客戶可能更緊張,政府客戶可能無所謂(他們早就在用)。

Agent 產業要解決的不是「能不能寫好程式碼」,是「寫出來的程式碼會被怎麼用」。這個問題 ChatGPT 時代可以假裝不存在,Agent 時代躲不掉。


參考來源:

來源: https://clashreport.com/world/articles/houthis-used-claude-code-to-develop-missile-guidance-software-anthropic-s52mnx4pwpo