実践

OpenAI、Anthropic、Metaを同時に揺るがすデータ标注会社──監査の死角が暴かれた

AI業界トップ3社の学習データ合规スキャンダルが、同一のサプライヤーに辿り着いた。これは単発の事件ではなく、業界全体のデータ調達チェーンに空いた監査の穴であり、資金力のある大企業より中小ベンダーのほうが致命傷を負う構造が浮き彫りになった。

文字サイズ

事件のあらまし:1社、3つの被告席

effort.news の大型調査によって、あるデータサプライヤーが OpenAI、Anthropic、Meta の3社に対して著作権・コンプライアンス上の問題を抱えた学習データを提供していたことが判明した。この記事は Hacker News のフロントページに上がり、146ポイントと44件のコメントを獲得。コメント欄で「怪情報だ」とする声は皆無だった。

出典:effort.news /irregular および HN 議論(item id 49704132)。

なぜこの無名企業が焦点になるのか

この2年間、世間とメディアの目はモデルそのものに向き続けてきた。GPT-4o のマルチモーダル、Claude 3.5 のコーディング能力、Sora の1分映像、LLaMA 3 のオープンソース戦略。Scaling law、test-time compute、MoEアーキテクチャ──こうした用語は何度も語られた。

しかし「これらのモデルが食べたデータは、どこから来たのか」という問いを誰も発しなかった。

そこにデータ标注/調達/清洗会社が業界のポジションとして入り込む。最も不透明なレイヤーが、まさにここだ。

報道内容から推測すると、この企業は同時に3つの役割を担っていた可能性が高い。

  • 大手ラボ向けに SFT/RLHF データの大規模标注を実施
  • コーパスサイト、出版社、UGCプラットフォームから生データを仲介者として調達
  • 匿名化や著作権痕跡の除去といった「清洗」処理

これは同社の責任ではなく、業界全体の構造的欠陥だ。データレイヤーは誰も監査したがらない。監査を入れれば、チェーン全体をやり直さざるを得なくなるからだ。

AI各社の「サプライヤーデューデリ」はどこまで実効性があるのか

「責任ある AI」を对外的に掲げ、数々の著作権コミットメントに署名し、Anthropicに至っては学習データの著作権コンプライアンス審査プロセスについてわざわざブログを公開している。聞こえは上々だ。

しかし調達チェーンを実際に展開してみると、これらのコミットメントはほぼ空手形だと分かる。

典型的なチェーンは以下の通り。

  1. AI 会社が Tier-1 データサプライヤーと契約(NDA締結、コミットメント記載)
  2. Tier-1 が人件費の安い地域の Tier-2 に再委託
  3. Tier-2 がさらに個人/零細事業者(Upwork、5人グループ)に分包
  4. 最終的なデータは海賊版フォーラム、無許可クローラー、OCR で吸い出した海賊版書籍などから流入

AI 会社の法務が確認するのは第1層まで。第2層以下について、生データの出所、許諾の有無、清洗工程で著作権透かしが破壊されたかどうか──誰も把握しておらず、知ろうともしない。

今回の監査の死角とは、この部分を指している。

本当の被害者は大手ではない

OpenAI、Anthropic、Meta にはそれぞれ数十億ドルの現金と数百人規模の弁護士チームがある。数十件の訴状を飲み込むコストは、中堅 AI スタートアップの年間研究開発予算に匹敵する。

本当の連座被害者は中小の AI スタートアップだ。

  • サードパーティのクローズドソースモデル API(Claude/GPT)に依存しており、モデル側の学習データに問題がなくても、自社側で説明できない
  • Scale AI クラスのデータ調達を購入する予算がなく、既存データセットを使うしかない
  • 業界の信頼崩壊、規制強化、ユーザ離反が起きたとき、コンプライアンス予算も自前データチームもないため袋小路に追い込まれる

結果として、大企業は罰金を払って走り続け、中小企業はそのまま死ぬ。

エンジニアリングから得られる教訓

サードパーティのデータやモデルに依存する AI プロダクトを運用しているなら、以下の3つで致命傷を避けられる。

1. データ出所を証跡として残す

学習データ/SFT データ/RAG コーパスの全ロットについて、出所一覧を用意する。Excel 表では不十分で、バージョン番号、収集日、ライセンス種別、清洗ステップを含める必要がある。問題発生時に30分以内に evidence chain を出せる状態が理想だ。

import json
from datetime import datetime

def log_dataset(dataset_id, source, license, steps):
    record = {
        "dataset_id": dataset_id,
        "source": source,
        "license": license,
        "collected_at": datetime.utcnow().isoformat(),
        "processing_steps": steps,
    }
    with open(f"lineage/{dataset_id}.json", "w") as f:
        json.dump(record, f, indent=2)

log_dataset(
    "rag-corpus-2025-q1",
    source="internal-crawl + licensed-feed-A",
    license="CC-BY-SA-4.0 + commercial-license-2024-11",
    steps=["dedup", "pii-redaction", "quality-filter-v3"],
)

2. サプライヤー契約に audit 条款を入れる

「サプライヤーはデータコンプライアンスを約束する」と書くだけでは不十分だ。以下を明記する。

  • サプライヤーは24ヶ月間の生データ出所記録を保持する義務を負う
  • 調達側は30日以内に二次分包業者への監査を実施する権利を持つ
  • コンプライアンス違反が認定された場合、調達側は残金支払いを伴わず即時契約を解除できる

調達量次第で契約交渉の余地は変わるが、まずは試みることが重要だ。

3. 重要シナリオは自前のフォールバックを持つ

中核プロダクトを完全にサードパーティに委ねてはいけない。プロダクトが特定のクローズドソースモデルの特定機能に大きく依存しているなら、最低限1つのオープンソース代替(Qwen、Llama、DeepSeek)をフォールバックとして用意する。データレイヤ likewise、中核シナリオの标注データは自前で構築できるならそうすべきだ。20%のトラフィックしかカバーできなくても構わない。

編集部の見解

今回の事案を過去の著作権訴訟(NYT vs OpenAI、Getty vs Stability)と比較したとき、最大の違いはデータサプライチェーン全体における「外注免責」という幻想を突き崩した点にある。従来の訴訟は「大手が俺のコンテンツを使った」と訴えるものだったが、今回は「AI 企業は原告の対岸にいると信じられていたが、実はこの穢れたチェーンの下流にいる被害者──というより、意図的に目を瞑っていた側だ」という構図を暴いた。

筆者の逆張り予想を述べると、短期的には調達モデルは変わらない。むしろ大企業法務が「逆方向の清洗」を加速させ、すべての責任を分包業者に押し付け、「当社もまた被害者だ」と演じるだろう。effort.news の記事は規制当局への弾丸ではなく、PR チーム用の台本を提供したに過ぎない。

ただし従来の事案と異なる点もある。EU AI Act はすでに執行段階に入り、監査ニーズは公关オプションではなく必須要件になった。これがサプライチェーン透明化を推進する最初の現実的なドライバーであり、世論ではない。

不確実な要素として、名前を挙げられたデータサプライヤーが契約上の機密保持や仲裁条項によって法的霧の中に消えてしまう可能性は残る。調査報道が口を開いたのは事実だが、実際の情報開示を半年以内に動かせるかは未知数だ。

エンジニア視点で見れば、ひとつだけ確実に言えることがある。手中的 data lineage を整理するのは今すぐに始めるべきだ。さらに1年先延ばしにすれば、それは他人に渡す刃になる。


参考出典:

出典: https://www.effort.news/irregular