上週 HN 熱門榜出現一篇 85 分、70 則留言的討論串,內容是 METR 對 OpenAI 和 Hugging Face 入侵事件的正式調查報告。這次不像平常的事後聲明,而是第三方獨立機構進行的完整鑑識分析。讀完之後有三個重點讓我格外在意。
事件還原:被偷的不是模型權重
第一個反應是:模型權重是不是被偷了?答案是沒有。METR 報告寫得很清楚,攻擊目標不在 model checkpoint 層級。
更具體地說:
- OpenAI 方面,攻擊者取得內部 CI/CD 流水線的權限,能在建置階段植入後門
- Hugging Face 方面,被滲透的是 Spaces 和 autotrain 鏡像分發鏈路
兩者的共同點是——都在「模型權重的上游」。換句話說,攻擊者不需要偷幾十 GB 的 safetensors 檔案,只要在分發環節動手腳,下游所有拉取這個模型的人全都會中招。
# 一般使用者拉模型的指令
huggingface-cli download TheBloke/Llama-2-7B-Chat-GGUF
# 攻擊者只要污染了分發路,這條指令回傳的就不會是原版
這個攻擊面比「偷權重」嚴重得多——權重外洩是一次性事件,分發鏈路被污染則是持續性的,後續每一次下載都是帶毒的。
METR 是誰?為什麼這份報告值得讀
METR(Model Evaluation and Threat Research)前身是 AI Alignment Forum 團隊,現在專門負責 AI 系統的獨立風險評估。他們有幾個關鍵屬性:
- 不收 OpenAI / Hugging Face 的錢
- 有能力取得當事方內部日誌和事件回應紀錄
- 報告公開發布,不會脫敏到失去資訊價值
這種「無利益衝突 + 有存取權限 + 願意公開」的組合,在 AI 安全領域極為罕見。多數事故復盤要不是當事方自己寫的(PR 鏡很厚),就是外部研究者靠公開資訊推測(細節不夠)。
這次 METR 拿到的應該是第一手資料——時間戳、IP 日誌、內部 ticket 系統紀錄。HN 上討論熱度能到 85 分,部分原因正是這份報告本身就是稀缺品。
時間線的巧合:兩個平台同步被穿
這是 HN 留言區分歧最大的部分。
METR 報告中的時間線顯示,OpenAI 和 Hugging Face 的初始入侵時間窗口重疊度極高——不是「同一週」,而是「同一個 72 小時」。有兩種解釋:
- 巧合論:兩家體量大,被不同攻擊者同時盯上不奇怪
- 協同論:METR 在調查中發現兩家共用部分第三方依賴(具體的 CI 服務商、鏡像分發 CDN、身分驗證 SSO 方案),攻擊者可能是從同一個上游供應商橫向打穿的
報告原文傾向後者,但沒有點名具體共用供應商。HN 留言區吵成一團,有人認為 METR 在暗示什麼卻不敢明說,有人覺得這只是過度解讀。
我自己傾向協同論。兩個完全獨立的攻擊者,剛好打穿兩家頭部平台,時間窗口精確到 72 小時以內——統計學上很難解釋得通。
被忽略的攻擊面:開源生態的供應鏈
Hugging Face 現在的形態不只是「模型託管網站」,更像是 npm + Docker Hub + PyPI 的綜合體:
- Spaces:相當於雲端跑 demo 的容器
- autotrain:一鍵微調,鏡像預裝了大量依賴
- model card:作者寫的 markdown,但裡面可以嵌入任意內容
- 上傳的模型權重本身:可能附帶自訂程式碼(
trust_remote_code=True)
攻擊面以等比級數膨脹。一個 Space 被污染,所有 fork 這個 Space 的專案都會中招。一個 model card 裡嵌了惡意的「使用範例」,作者本人可能完全不知情。
參考 npm 生態的教訓:event-stream、colors、node-ipc 這些套件曾被供應鏈投毒,影響了幾百萬個專案。HF 現在處於類似階段,但 AI 模型的「執行能力」比 npm 套件強得多——一個被污染的 Space 可能直接把你的訓練資料整包搬走。
對 Agent 開發的實際影響
如果你正在用 HF 上的微調模型,或部署了某個 Space 作為工具後端,建議立刻做三件事:
- 固定 hash 校驗:
from huggingface_hub import hf_hub_download
# 不要這樣做
path = hf_hub_download(repo_id="user/model", filename="model.safetensors")
# 應該這樣:綁定到具體 commit
path = hf_hub_download(
repo_id="user/model",
filename="model.safetensors",
revision="a1b2c3d4" # 具體 commit hash
)
- Spaces 當工具後端的,重新評估 trust 邊界:之前假設 Space 是「沙箱」,現在要假設它是「可能執行任意程式碼的容器」。如果你的 Agent 會根據模型輸出決定要不要 fork / 部署 Space,這一步要徹底擋下來。
- CI/CD 裡拉模型的,全部走內部鏡像:不要讓建置機直接拉 HF,加一層內部代理 + 簽章校驗。OpenAI 這次被打穿的就是 CI/CD,教訓就在眼前。
編輯觀點
模型供應鏈這件事,圈子裡討論得不多。原因可能是大家預設「HF 是大平台,應該安全」——和當年大家預設 npm 套件安全、PyPI 套件安全一樣,直到出事為止。
這次不一樣的地方在於:攻擊的不是模型本身,而是分發鏈路。後果不是「權重外洩」,而是「所有下游使用者帶毒運行」。性質上和 SolarWinds 那次供應鏈攻擊更接近,而不是傳統的「資料外洩」。
一個我自己沒想清楚的不確定點:METR 報告裡說兩家共用部分依賴,但沒有點名。如果是我來寫這份報告,我會更明確——要不就別提,提了就要把供應商指出來。否則報告讀者很難做具體決策。METR 可能是等當事方先公布,或是在走法律程序。這種克制在獨立調查裡其實少見,留了餘地卻也給陰謀論留了空間。
短期來看,這件事最大的影響不是 OpenAI 或 Hugging Face——而是所有把 HF 當預設基礎設施的專案。Agent 框架、微調平台、內部 RAG 系統,誰在拉誰、誰部署了誰的 Space,都該重新檢視一遍依賴清單。