Hacker Newsのトップに躍り出たPDF
9月16日、独立研究者のjorgegarciaherrero.comが、自らのサイトにPDFを一つ公開した。タイトルは『Prompt like a butterfly, sting like a tracker』。
このPDFはHacker Newsのフロントページにまる1日ほど居座り、最終的に252ポイント / コメント72件で落ち着いた。HNにおいてこの数字は「必読」クラスの部類に入る。上位にランクインする投稿は年間で200件強しかなく、その大半は大企業の発表かオープンソースの大型リリースだ。個人のブログにぶら下がったPDFが252ポイントを叩き出したということは、多数の人が漠然と抱えていた不安を的確に射抜いたということだろう。
PDFの読了時間は約15分。核心となる結論は一言に集約できる──複数のAI企業のチャット製品が、ユーザーの対話データを広告エコシステムに流出させており、これはバグではなく設計レベルでのデータフローである。
トラッキングはどう起きるか──プロンプトに潜むシグナル
論文が突きつけている論点は、「特定のAI企業がユーザーの会話をこっそり売却した」という単純なものではない。トラッキングの連鎖は、人々が想像する以上に深く埋め込まれている。具体的な経路は3層に分けられる。
第1層:キーワード抽出
ユーザーがプロンプトを入力すると、サーバー側でコンテンツ理解が行われる。研究者による追跡調査によれば、一部の製品では対話コンテキストからキーワードが抽出され、広告のbiddingシステムに送られる。検索エンジンとの違いはここにある。検索キーワードは孤立しているのに対し、対話由来のキーワードは完全な文脈を内包している。
たとえばChatGPTで「胃がずっと痛いんですが、今月の会社の健康診断が再来月にずれ込んでしまいそうで、不安なんです」と入力したとする。抽出されるキーワードは「胃痛」ではなく、「胃痛 + 会社の健康診断 + 不安」となる──このプロファイルは、いかなるcookieよりもはるかに精緻だ。
第2層:ユーザープロファイルの補完
広告SDKがこれらのキーワードを既存のcookieやデバイスIDと突合させ、ユーザープロファイルを完成させる。研究者によれば、一部のAIチャット製品にはサードパーティの広告SDKが埋め込まれており、こうしたSDKはWebブラウザではブロックされるにもかかわらず、チャット製品内ではコンテキストを読み取れる状態になっていた。
第3層:プロダクト横断トラッキング
一度対話データが広告エコシステムに流れ込めば、その後の追跡は大手広告ネットワークにおける他のチャネルと何ら変わらない。TikTok、Meta、Googleで表示された広告が、新たなチャネルから流れてきたキーワードによって逆方向に検証・重み付けされる。
技術的に見れば、この3層にいずれも高度な複雑さはない。複雑なのは、こうした処理がユーザーにとって「私密」であるはずの場面で起きているという事実だ。
対象範囲:一社にとどまらず、業界全体のデフォルト
論文では複数の主要なAIチャット製品が明示的にテストされている。具体的な社名リストはここでは繰り返さない(各自PDFを確認されたい)が、研究者の結論はきわめて明快だ──これは単一の脆弱性ではなく、システムレベルのデータフローである。
問いは「どの企業が悪いことをしたか」ではない。論点は次の3点に集約される。
- このアーキテクチャは業界全体のデフォルトである──無料/低価格なAI製品には収益化の経路が必要になる
- プライバシーポリシーには書かれているが、表記が巧妙すぎて一般ユーザーには読めない
- 現行の規制には対話データに固有の条項が存在しない
3点目がとくに重要だ。GDPRの「正当な利益」条項にはセンシティブデータの処理に対する制約があるものの、大半のAIチャット製品は対話データを「非センシティブ」に分類している。論文では一部製品のプライバシーポリシーが引用されているが、そこには「ユーザーの入力をサービス改善のために使用する可能性がある」といった記述が並ぶ──字面だけを見れば誤りではない。しかしサービス改善の目的は何か。多くの場合、広告を売ることにある。
なぜ今まで表面化しなかったのか──対話データという特殊性
cookieによるトラッキングには、ユーザーはすでに慣れ親しんでいる。uBlockをインストールし、プライベートウィンドウを使えば、「まあ大丈夫だろう」と感じる人が大多数だろう。
しかし対話データは、cookieとは次元の異なるものだ。cookieが伝えられるのは:
- どのページを訪問したか
- どのリンクをクリックしたか
- 大まかな興味の方向
これらに限られる。対して対話データは:
- ユーザーの現在の真の意図
- 感情状態(不安、怒り、悲しみ)
- 個人を特定し得る情報(氏名、住所、勤め先、家族構成)
- まだ起きていない行動(購入予定、転職の検討、健康上の懸念)
こうした情報を開示してしまう。
研究者がとくに強調するのはこの点だ──対話は、デジタル製品上で「深い自己開示」が初めて起きる場面である。これまでのcookie、検索キーワード、ソーシャルメディアの「いいね」は、ユーザーが能動的に露出させた表層的なシグナルにすぎない。会話は違う。人々はAIチャットに対して、普段は誰にも打ち明けないことをつい話してしまう傾向がある。
つまり、対話データが広告エコシステムに一度でも流出すれば、その被害はcookie時代の比ではなくなる。
ユーザーにできること──現時点では有効な手立てが乏しい
率直に言って、提示できるアドバイスは限られている。しかも、いずれも根本治療にはなっていない。
プライバシーポリシーを精読する──ただし大半の人は読まない。読んでも意味がわからない。意味がわかっても、他に選択肢はない(AIを一切使わないという選択を現実的なものとするのは難しい)。
センシティブな情報の入力を控える──しかし、すでにAIを使っているなら、このアドバイスは手遅れだ。
ローカルモデルの検討──Llama、Qwen、Mistralなど、端末側で動かせるモデルは十分に実用的な水準に達している。ただし一般ユーザーがセットアップするハードルは大く、セットアップできても大規模モデルを動かすにはマシンパワーがいる。余裕を持って動かせるM2 Max / M3 Maxユーザーなど、ごく一部に限られる。
# OllamaでローカルにQwenモデルを動かす最小限のコマンド
ollama run qwen2.5:14b
# データは完全にローカルで、外部への送信は一切発生しない
# 必要環境:Mac mini M2以上、14Bモデルには16GBメモリ真に根本から解決するには、次の2つが必要となる。
- ベンダーによる透明性の確保──対話データがどのサードパーティに流れるかを明示し、「広告トレーニング/トラッキング不参加」の有料プランを提供する
- 規制当局の介入──対話データを明確にセンシティブデータとして分類し、別の同意メカニズムを義務づける
1点目については、すでに一部ベンダーが動き出している(Claude Pro、ChatGPT Plusは広告トレーニングへの不使用を明言している)。しかしフリープランはどうなるのか。ここは規制が答えを出すべき領域だ。
2点目については、EUが動いている可能性がある。米国FTCも何度か公聴会を開いている。ただ、立法のスピードについては……言わずもがなだろう。
編集部の見解
この問題は、過去のあらゆる「データプライバシー」問題とは根本的に性質を異にしている──AIチャットは、ユーザーが最も深い思考をサードパーティに外注する最初のプロダクト形態である。
検索、EC、ソーシャルメディアでは、ユーザーのアウトプットは「シグナル」だ。クリック、いいね、検索キーワード。要するに、ユーザーは能動的にコンテンツを発信しており、誰かが見ていることを(漠然とではあっても)認識している。
会話は違う。ユーザーがAIに「最近眠れなくて、リストラされるかも不安なんです」と話しかけるとき、そこには「この対話は私密である」という暗黙の前提がある。この前提が体系的に破られたとき、傷つくのはプライバシーだけではない。AI業界全体に対するユーザーの信頼そのものへのダメージとなる。
私見を3点述べる。第1に、規制は来る。しかしおそらく製品普及スピードより2〜3年遅れる。EUが対話データの分類で最初に動く可能性はあるが、米国の連邦レベルでは短期的に動きは見込めない。
第2に、有料プランが新たな標準になる。Claude Pro、ChatGPT Plusの「広告トレーニング不使用」という約束は、将来的には差別化の卖点から業界基準へと格上げされる。フリープランにはデータフローの明示表示が義務づけられるか、「広告-supported」であることを示す明確なラベルが強制されることになるだろう。
第3に、ローカルモデルはギークのおもちゃから大衆の必需品へと変貌する。ユーザーが対話データの脆弱性に気づけば、Ollama、LM Studio、端末側推論への需要は現在の10倍に膨らむ。Apple Silicon + オープンソースモデルの組み合わせが、第一波の果実を享受することになるだろう。
不確実な部分も残されている──この論文は単独の独立研究者によるもので、サンプルのカバレッジを私自身が独自に検証することは難しい。大規模なセキュリティチームによる再現研究が行われれば、結論の信頼性は一段と高まるだろう。しかし、結論の一部が修正されたとしても、問題自体の深刻さは変わらない。変わるのは範囲の大きさだけだ。
最後に一点。この論文ではAnthropicやOpenAIといった大手企業について、具体的なトラッキングSDKの供給元は名指しされていない。だが、もし大手企業が主力製品でデフォルトでサードパーティ広告SDKを接続しているとすれば、事態は論文の記述以上に深刻だということになる。
再現研究やベンダーからの公式回答については、引き続き注視していきたい。