実践

OpenAIとHugging Faceが同時期に侵入される:METR報告が示す3つの死角

METRが第三者調査のレポートを公開した。2大AIプラットフォームが同一時間帯に侵害されたが、標的はモデル重複ではなく、さらに上流のインフラだった。

文字サイズ

先週のHNトップに、スコア85・コメント70の投稿が立っていた。リンク先はMETRによるOpenAIとHugging Face侵入事案の正式調査レポートである。通常の事後発表と違い、今回は第三者機関による「検死」だった。読み終えて、3つの点で背筋が伸びた。

事案の概要:重みは盗まれていない

最初に浮かんだ疑問は「モデル重複は盗まれたのか」。答えはNo。METRのレポートは、攻撃がmodel checkpoint層に到達していないことを明確に示している。

もう少し具体的に書くと、

  • OpenAI側では、攻撃者が内部CI/CDパイプラインへのアクセス権を獲得し、ビルド段階でコードを注入できる状態だった
  • Hugging Face側では、Spacesとautotrainのイメージ配信チェーンが侵害された

両者に共通しているのは、いずれも「モデル重複より上流」に位置する点だ。攻撃者は数十GBのsafetensorsファイルを盗み出す必要がない。配信环节に細工を施せば、そのモデルをダウンロードする全員が被害を受ける。

# 一般ユーザーがモデルを取得するコマンド
huggingface-cli download TheBloke/Llama-2-7B-Chat-GGUF

# 配信チェーンが汚染されていれば、このコマンドが返すのは原本ではない

この攻撃面は「重複漏洩」よりも遥かに深刻だ。重複漏洩は一回限りの事象だが、配信チェーンの汚染は継続的であり、その後のダウンロードは全て汚染済みの状態で実行される。

METRとは何か、そしてこのレポートが読む価値のある理由

METR(Model Evaluation and Threat Research)は、AI Alignment Forumのチームが前身で、現在はAIシステムの独立リスク評価を専門に行っている。重要な属性は以下の通りだ。

  • OpenAIおよびHugging Faceから資金を受けていない
  • 当事者内部のログやインシデント対応記録にアクセスできる立場にある
  • レポートを公開し、情報量を損なわない範囲で開示している

「利益相反なし+アクセス権限あり+公開可」という組み合わせは、AIセキュリティ分野で極めて稀有だ。事故の事後検証の大半は、当事者が自ら作成したもの(PRフィルターが厚い)か、外部研究者が公開情報だけで推測したもの(細部不足)のどちらかである。

METRは一次情報を手にしていたはずだ。タイムスタンプ、IPログ、社内チケットシステムの記録など。HNでの議論がスコア85に達した背景には、このレポート自体が希少品であるという事情もある。

タイムラインの奇妙な一致:2つのプラットフォームが同時期に突破される

ここはHNのコメント欄で最も意見が割れる部分だ。

METRレポートのタイムラインによると、OpenAIとHugging Faceの初期侵入時間帯には高い重複がある。「同じ週」ではなく、「同じ72時間」以内である。解釈は2つある。

  1. 偶然説:両社とも規模が大きく、異なる攻撃者に同時に狙われても不思議ではない
  2. 連携説:METRの調査で、両社が一部のサードパーティ依存を共有していることが判明した。具体的なCIプロバイダー、イメージ配信用CDN、SSO認証基盤などだ。攻撃者が同じ上流ベンダーから横移動で両社を突破した可能性がある

レポート本文は連携説寄りだが、具体的な共有ベンダーの名前は出していない。HNのコメント欄では激論が交わされており、METRが何かをほのめかしているのに明言を避けているとする見方もあれば、読み過ぎだとする見方もある。

私自身は連携説寄りである。完全に独立した2人の攻撃者が、たまたま2大プラットフォームを同じ72時間以内に突破するのは、統計的に説明しにくい。

見落とされていた攻撃面:オープンソース生態系のサプライチェーン

Hugging Faceの現在の姿は単なる「モデルホスティングサイト」ではなく、npm+Docker Hub+PyPIのハイブリッド体だ。

  • Spaces:クラウド上でデモを動かすコンテナに相当
  • autotrain:ワンクリックでファインチューニング、イメージには大量の依存がプレインストール済み
  • model card:作者が書くMarkdownだが、任意のコンテンツを埋め込める
  • アップロードされるモデル重複自体:カスタムコードが付属する場合がある(trust_remote_code=True)

攻撃面が幾何級数的に膨れ上がっている。あるSpacesが汚染されれば、それをforkした全てのProjectが被害を受ける。model cardに悪意ある「使用例」が埋め込まれれば、作者自身がまったく気付いていない可能性もある。

npmエコシステムの教訓が参考になる。event-stream、colors、node-ipcなど、サプライチェーン汚染の被害を受けたパッケージは何百万ものプロジェクトに影響した。HFは今、同様の段階にある。ただし、AIモデルの「実行能力」はnpmパッケージよりも遥かに高い。汚染されたSpacesが、学習データを直接外部に送信する可能性すらある。

Agent開発への現実的な影響

HF上のファインチューニング済みモデルを利用している、あるいはSpacesをツールバックエンドとしてデプロイしているなら、今すぐ3つの対応を推奨する。

  1. コミットハッシュの固定と検証:
from huggingface_hub import hf_hub_download
# やってはいけない書き方
path = hf_hub_download(repo_id="user/model", filename="model.safetensors")
# こう書く:具体的なコミットにpinする
path = hf_hub_download(
    repo_id="user/model",
    filename="model.safetensors",
    revision="a1b2c3d4"  # 具体的なコミットハッシュ
)
  1. Spacesをツールバックエンドにしている場合、trust境界の再評価:これまで「サンドボックス」だと想定していたSpacesを、「任意のコードを実行し得るコンテナ」だと見なす必要がある。Agentがモデル出力に応じてSpacesをfork/デプロイする場合は必ず厳格にブロックする。
  2. CI/CDでモデルを取り込む場合は内部ミラー経由に統一:ビルドマシンが直接HFを取りに行くのではなく、内部プロキシ+署名検証の層を噛ませる。OpenAIが今回突破されたのはCI/CDであり、教訓は目の前にある。

編集後記的な考察

モデルサプライチェーンというテーマは、業界の議論ではあまり出てこない。背景には「HFは大規模プラットフォームだから安全だろう」という暗黙の前提がある。これはかつて「npmパッケージは安全」「PyPIパッケージは安全」と誰もが信じていたのと同じ構図だ。実際に事故が起きるまで。

今回の事案が異なるのは、攻撃対象がモデル本体ではなく配信チェーンだった点だ。結果は「重複漏洩」ではなく、「全ダウンストリームユーザーが汚染された状態で実行」だ。性質としては、従来型の「データ漏洩」より、SolarWindsのようなサプライチェーン攻撃に近い。

私自身、まだ整理しきれていない不確実な点が一つある。METRレポートは両社が一部の依存を共有していると述べるが、ベンダー名は伏せている。自分がこのレポートを書くなら、もう少し踏み込むか、そもそも触れないかのどちらかを選んだだろう。中途半端に書くと、読者には具体的なアクションを取りにくい。METR側は、当事者の公式発表を待っているか、法的手続きを進めているのかもしれない。独立調査でこの種の抑制が働くのは異例であり、余地を残した分だけ陰謀論の余地も生んでしまう。

短期的に見れば、今回の影響を受けるのはOpenAIやHugging Face自身ではなく、HFをデフォルトのインフラと見なしてきた全てのプロジェクトだ。Agentフレームワーク、ファインチューニング基盤、誰のモデルをpullしているか、誰のSpacesをデプロイしているか、依存棚卸しは今すぐやり直すべきである。

出典: https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#core-takeaways-about-this-incident