實戰

OpenAI 與 Hugging Face 同步遭駭:METR 報告揭露三個被忽略的關鍵

METR 發布獨立調查報告,指出兩家 AI 巨頭在同一時間窗口被滲透,但入侵路徑並非模型權重,而是更上游的供應鏈環節。

字級

上週 HN 熱門榜出現一篇 85 分、70 則留言的討論串,內容是 METR 對 OpenAI 和 Hugging Face 入侵事件的正式調查報告。這次不像平常的事後聲明,而是第三方獨立機構進行的完整鑑識分析。讀完之後有三個重點讓我格外在意。

事件還原:被偷的不是模型權重

第一個反應是:模型權重是不是被偷了?答案是沒有。METR 報告寫得很清楚,攻擊目標不在 model checkpoint 層級。

更具體地說:

  • OpenAI 方面,攻擊者取得內部 CI/CD 流水線的權限,能在建置階段植入後門
  • Hugging Face 方面,被滲透的是 Spaces 和 autotrain 鏡像分發鏈路

兩者的共同點是——都在「模型權重的上游」。換句話說,攻擊者不需要偷幾十 GB 的 safetensors 檔案,只要在分發環節動手腳,下游所有拉取這個模型的人全都會中招。

# 一般使用者拉模型的指令
huggingface-cli download TheBloke/Llama-2-7B-Chat-GGUF

# 攻擊者只要污染了分發路,這條指令回傳的就不會是原版

這個攻擊面比「偷權重」嚴重得多——權重外洩是一次性事件,分發鏈路被污染則是持續性的,後續每一次下載都是帶毒的。

METR 是誰?為什麼這份報告值得讀

METR(Model Evaluation and Threat Research)前身是 AI Alignment Forum 團隊,現在專門負責 AI 系統的獨立風險評估。他們有幾個關鍵屬性:

  • 不收 OpenAI / Hugging Face 的錢
  • 有能力取得當事方內部日誌和事件回應紀錄
  • 報告公開發布,不會脫敏到失去資訊價值

這種「無利益衝突 + 有存取權限 + 願意公開」的組合,在 AI 安全領域極為罕見。多數事故復盤要不是當事方自己寫的(PR 鏡很厚),就是外部研究者靠公開資訊推測(細節不夠)。

這次 METR 拿到的應該是第一手資料——時間戳、IP 日誌、內部 ticket 系統紀錄。HN 上討論熱度能到 85 分,部分原因正是這份報告本身就是稀缺品。

時間線的巧合:兩個平台同步被穿

這是 HN 留言區分歧最大的部分。

METR 報告中的時間線顯示,OpenAI 和 Hugging Face 的初始入侵時間窗口重疊度極高——不是「同一週」,而是「同一個 72 小時」。有兩種解釋:

  1. 巧合論:兩家體量大,被不同攻擊者同時盯上不奇怪
  2. 協同論:METR 在調查中發現兩家共用部分第三方依賴(具體的 CI 服務商、鏡像分發 CDN、身分驗證 SSO 方案),攻擊者可能是從同一個上游供應商橫向打穿的

報告原文傾向後者,但沒有點名具體共用供應商。HN 留言區吵成一團,有人認為 METR 在暗示什麼卻不敢明說,有人覺得這只是過度解讀。

我自己傾向協同論。兩個完全獨立的攻擊者,剛好打穿兩家頭部平台,時間窗口精確到 72 小時以內——統計學上很難解釋得通。

被忽略的攻擊面:開源生態的供應鏈

Hugging Face 現在的形態不只是「模型託管網站」,更像是 npm + Docker Hub + PyPI 的綜合體:

  • Spaces:相當於雲端跑 demo 的容器
  • autotrain:一鍵微調,鏡像預裝了大量依賴
  • model card:作者寫的 markdown,但裡面可以嵌入任意內容
  • 上傳的模型權重本身:可能附帶自訂程式碼(trust_remote_code=True)

攻擊面以等比級數膨脹。一個 Space 被污染,所有 fork 這個 Space 的專案都會中招。一個 model card 裡嵌了惡意的「使用範例」,作者本人可能完全不知情。

參考 npm 生態的教訓:event-stream、colors、node-ipc 這些套件曾被供應鏈投毒,影響了幾百萬個專案。HF 現在處於類似階段,但 AI 模型的「執行能力」比 npm 套件強得多——一個被污染的 Space 可能直接把你的訓練資料整包搬走。

對 Agent 開發的實際影響

如果你正在用 HF 上的微調模型,或部署了某個 Space 作為工具後端,建議立刻做三件事:

  1. 固定 hash 校驗:
from huggingface_hub import hf_hub_download
# 不要這樣做
path = hf_hub_download(repo_id="user/model", filename="model.safetensors")
# 應該這樣:綁定到具體 commit
path = hf_hub_download(
    repo_id="user/model",
    filename="model.safetensors",
    revision="a1b2c3d4"  # 具體 commit hash
)
  1. Spaces 當工具後端的,重新評估 trust 邊界:之前假設 Space 是「沙箱」,現在要假設它是「可能執行任意程式碼的容器」。如果你的 Agent 會根據模型輸出決定要不要 fork / 部署 Space,這一步要徹底擋下來。
  2. CI/CD 裡拉模型的,全部走內部鏡像:不要讓建置機直接拉 HF,加一層內部代理 + 簽章校驗。OpenAI 這次被打穿的就是 CI/CD,教訓就在眼前。

編輯觀點

模型供應鏈這件事,圈子裡討論得不多。原因可能是大家預設「HF 是大平台,應該安全」——和當年大家預設 npm 套件安全、PyPI 套件安全一樣,直到出事為止。

這次不一樣的地方在於:攻擊的不是模型本身,而是分發鏈路。後果不是「權重外洩」,而是「所有下游使用者帶毒運行」。性質上和 SolarWinds 那次供應鏈攻擊更接近,而不是傳統的「資料外洩」。

一個我自己沒想清楚的不確定點:METR 報告裡說兩家共用部分依賴,但沒有點名。如果是我來寫這份報告,我會更明確——要不就別提,提了就要把供應商指出來。否則報告讀者很難做具體決策。METR 可能是等當事方先公布,或是在走法律程序。這種克制在獨立調查裡其實少見,留了餘地卻也給陰謀論留了空間。

短期來看,這件事最大的影響不是 OpenAI 或 Hugging Face——而是所有把 HF 當預設基礎設施的專案。Agent 框架、微調平台、內部 RAG 系統,誰在拉誰、誰部署了誰的 Space,都該重新檢視一遍依賴清單。

來源: https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#core-takeaways-about-this-incident