實戰

Claude 協助縮減攻擊面:安全研究工具也得先通過安全審查

Anthropic 將 Claude 導入程式碼攻擊面審查,協助團隊識別、驗證並降低風險。真正值得關注的不只是模型找出多少漏洞,而是安全工具本身會不會帶來新的權限、資料與供應鏈風險。

字級

Anthropic 發表了一篇研究文章,主題是如何運用 Claude 減少軟體程式碼的攻擊面。

這次研究聚焦的不是程式碼生成,也不是替開發者打造一個漏洞問答機器人。Claude 被放進安全研究流程,參與識別、驗證及縮減程式碼攻擊面。

最值得關注的地方,恰恰不是「AI 又發現了多少漏洞」。

因為攻擊面審查本身就是一種高權限操作。模型需要讀取程式碼、呼叫工具、提出修改建議,甚至執行自動修復;每一步都可能增加日誌、提示詞、依賴項、權限與資料流。

安全工具如果無法先證明自身是安全的,就很難直接部署到生產環境。

原始研究請見 Anthropic:https://www.anthropic.com/research/attack-surface-reduction

Anthropic 的研究切入點

Anthropic 的研究關注三類變化:

  • 新增程式碼是否建立了新的外部入口
  • 新增依賴項是否擴大供應鏈與執行環境的暴露面
  • 新增功能是否改變權限、資料流或信任邊界

這與「掃出一個 CVE,然後告訴你該升級哪個版本」不是同一回事。

漏洞通常對應一個明確缺陷,攻擊面卻更廣。它涵蓋未使用的網路監聽器、權限過寬的 IAM、重複的資料出口、第三方 SDK、預設開啟的除錯介面,以及程式碼中新增的憑證傳遞路徑。

Anthropic 的重點是將 Claude 納入完整審查流程,而不是只展示程式碼生成或漏洞問答能力。這個差別很重要。

即使模型能準確指出 request.args[...] 可能存在注入問題,也不代表它能判斷這個介面是否應該公開、呼叫端是否可信、修復會不會影響相容性,或新增依賴項是否帶來更大的維護風險。

在這篇研究中,安全修改本身也需要評估可能引入的新風險。這比宣稱「模型很聰明」更接近真正的工程問題。

安全審查不等於漏洞掃描

若把 AI 安全審查理解成漏洞掃描器,容易把問題看得過於狹窄。

傳統掃描器擅長進行確定性比對:

# 這不是完整的產品級安全檢查,
# 只是說明掃描器通常依賴可明確表達的規則。
import re

RULES = [
    (re.compile(r"eval\s*("), "dynamic evaluation"),
    (re.compile(r"shell=True"), "shell command execution"),
]

source = open("app.py", encoding="utf-8").read()

for pattern, label in RULES:
    for match in pattern.finditer(source):
        line = source.count("\n", 0, match.start()) + 1
        print(f"{label}: app.py:{line}")

規則能指出可疑模式,卻無法完整回答「誰能讓它執行」「攻擊者能存取什麼」,以及「修復後會不會產生另一條路徑」。

攻擊面審查更接近系統建模:

  1. 新增了哪些輸入入口?
  2. 輸入會經過哪些服務與依賴項?
  3. 每個服務擁有哪些權限?
  4. 資料最後流向何處?
  5. 發生失敗時,是否會降級成較為寬鬆的行為?
  6. 移除舊路徑後,攻擊者是否仍能透過快取、佇列或日誌接觸內部資源?

LLM 在這類任務上的潛在價值,在於能同時閱讀多個檔案、沿著呼叫鏈整理假設,再以自然語言解釋風險。

但它也有明顯限制:程式碼脈絡可能不完整,依賴關係可能沒有放進 prompt,設定與基礎架構資訊也可能不在版本庫中。模型提出的結論,仍須經過測試與人工複核。

AI 工具本身也會製造風險

將 Claude 接入安全流程,會新增一條原本不存在的連結鏈。

例如,模型讀取私有版本庫,再將程式碼片段傳送至雲端 API。企業需要考慮:

  • 程式碼是否包含密鑰、token 或客戶資料
  • 提示詞是否會被日誌系統完整保存
  • 模型供應商是否能保留輸入與輸出
  • 組織是否允許將原始碼傳送至外部服務
  • 自動修復是否會直接寫入主分支
  • 程式碼建議是否可能夾帶惡意依賴項或不安全指令

安全審查工具也可能遭到濫用。若攻擊者能修改輸入程式碼,便可能誘導審查 Agent 忽略特定目錄,或產生誤導性的修復結果。

這就像把一份由攻擊者控制的材料交給審核員。審查流程本身必須考量提示詞注入、工具呼叫權限與結果完整性。

自動修復尤其需要沙箱、最小權限、人工審批,以及可回滾的提交。否則,模型可能只是把一個中高風險問題修成另一個風險,團隊甚至難以判斷整體風險是否真的下降。

為什麼 HN 只有 23 分

這篇研究的連結出現在 Hacker News 首頁時,頁面顯示 23 points、6 則留言。

23 points 在 Hacker News 上並不足以顯示社群已形成廣泛共識。它比較像是小範圍討論的訊號:有人願意點開,但尚未出現強烈認同。

HN 對這類專案的討論,通常會追問幾個問題:

  • 研究能否重現?
  • 資料集是否公開?
  • 使用的是哪個模型版本?
  • 是否與人工安全團隊進行對照?
  • 誤報率與漏報率為何?
  • 程式碼審查結果是否經過獨立驗證?

對開發者而言,「AI 做安全」還會引發另一層疑慮。安全建議通常建立在高度信任之上;一旦模型誤判,後續修復本身就可能改變系統行為。

因此,HN 上的審慎態度不一定是在否定 Claude,更可能是在區分兩個問題:它能否協助研究,以及能否獨立承擔安全責任。

目前這則新聞沒有足夠的公開證據可以回答第二個問題。

沒有公開 benchmark,現在還談不上效果

現有新聞摘要並未提供:

  • 漏洞數量
  • 攻擊面降幅
  • benchmark 數據
  • 具體程式碼案例
  • 誤報與漏報資料
  • 與人工審查或傳統工具的對照結果

因此,不能僅根據這次研究就斷言 Claude 的整體安全成效。

這不表示該文章沒有價值。它至少展示了一個較合理的方向:讓模型參與攻擊面審查,而不是把模型包裝成能「自動發現所有漏洞」的安全專家。

但展示流程與證明能力是兩回事。

若要判斷實際效果,至少需要公開任務集、輸入程式碼範圍、模型版本、工具權限、評估標準,以及每項發現後續的驗證結果。

否則,讀者看到的只是「Claude 參與了一項流程」,而不是「Claude 在可重現條件下降低了多少風險」。

一份基本的評估記錄可以長這樣:

result = {
    "task_id": "api-route-001",
    "finding": "new endpoint accepts untrusted input",
    "evidence_file": "src/routes/export.py",
    "verified": True,
    "introduced_new_risk": False,
    "reviewer": "security-engineer-2",
}

真正的 benchmark 不應只統計「找到幾項問題」,還要記錄建議是否正確、修復是否有效、是否增加攻擊面,以及需要投入多少人工時間。

編輯觀察

AI 輔助安全研究的關鍵瓶頸,不是模型能否寫出看似專業的風險報告,而是它能否證明建議確實降低了風險,且沒有將更多風險帶進系統。

這次與過去「模型找漏洞」的展示不同:Anthropic 將重點放在新增程式碼、依賴項、功能與權限變化上,關注的是系統暴露面,而非單一 CVE;文章也承認,安全修改本身可能引入新風險。

我的判斷是,未來最實用的安全 Agent 不會直接擁有生產環境的寫入權限,而會先進行唯讀分析,再產生可供審查的修補內容。權限越小,評估越容易;日誌越完整,結果越容易重現。

與過去幾次「AI 安全」展示相比,這次的具體差異在於:Anthropic 沒有將模型塑造成漏洞掃描器的替代品,而是把它定位為流程參與者;討論也隨之轉向工具本身的安全性。

目前沒有公開 benchmark、漏洞數量或攻擊面降幅,因此結論只能停留在流程層面。Claude 能否成為安全團隊的有效工具,仍須等待獨立驗證,而不是只看宣傳材料。

來源: https://www.anthropic.com/research/attack-surface-reduction