實戰

AI 對話產品把聊天紀錄餵給廣告主:252 分論文揭露的真相

獨立研究者在 Hacker News 榜首發布報告指出,多家 AI 聊天產品的對話資料正系統性地流向廣告生態系,而且這並非漏洞,而是設計層級的資料流。

字級

一份登上 Hacker News 榜首的 PDF

9 月 16 日,獨立研究者 jorgegarciaherrero.com 在個人網站上發布了一份 PDF,標題為《Prompt like a butterfly, sting like a tracker》。

這份文件在 Hacker News 首頁停留了將近一整天,最後停在 252 分 / 72 則留言。在 HN 上,這個分數屬於「必讀」等級——HN 一年進榜的貼文大概兩百多則,多數要不是大廠發表會,就是重量級開源專案。一份個人部落格上的 PDF 能衝到 252 分,代表它踩中了許多人內心那根不安的神經。

PDF 全文閱讀時間約 15 分鐘,核心結論只有一句話:多家 AI 公司的聊天產品正在把使用者對話資料洩漏給廣告生態系,而且這不是 bug,而是設計層級的資料流。

原文網址:https://jorgegarciaherrero.com/wp-content/interactos/20260916-Prompt-like-a-butterfly-sting-like-a-tracker-(clean).pdf

追蹤是怎麼發生的:prompt 裡的隱性訊號

論文的核心論點不是「某家 AI 公司偷偷賣了你的對話」,而是追蹤鏈條嵌入得比想像中更深。具體路徑分三層:

第一層:關鍵字萃取

使用者輸入 prompt 後,伺服器端會進行內容理解。研究者追蹤發現,某些產品會從對話脈絡裡抽取關鍵字,再送進廣告 bidding 系統。與搜尋引擎不同的是,搜尋關鍵字是孤立的,對話關鍵字則帶有完整的情境脈絡。

舉例來說,你在 ChatGPT 裡問「我的胃一直痛,但這個月公司健檢排到下個月,我有點擔心」。系統抽取的關鍵字不是「胃痛」,而是「胃痛 + 公司健檢 + 焦慮」——這個使用者畫像比任何 cookie 都精準。

第二層:使用者畫像補完

廣告 SDK 把這些關鍵字與既有的 cookie / 裝置 ID 拼接,補完成完整的使用者畫像。研究者發現部分 AI 聊天產品內嵌了第三方廣告 SDK,這些 SDK 在網頁端會被擋下,在對話產品中卻能讀取上下文。

第三層:跨產品追蹤

一旦對話資料進入廣告生態系,後續的追蹤流程就跟大型廣告網路中的其他管道一樣了。使用者在 TikTok、Meta、Google 上看到的廣告,會被這條新管道的關鍵字反向驗證、加權。

技術上,這三層都不複雜。複雜的是它發生在使用者以為「私密」的情境裡。

波及範圍:不只一家,而是業界預設

論文中明確測試了多家主流 AI 聊天產品。這裡不重複具體名單(請自行查閱 PDF),但研究者的結論很直白:這不是單點漏洞,而是系統級的資料流向。

問題不在「哪家公司做了壞事」,而在於:

  • 這套架構是業界預設——免費 / 低價 AI 產品需要變現路徑
  • 隱私政策裡都有寫,但寫得很繞,一般使用者讀不懂
  • 目前的監管缺乏針對對話資料的具體條款

第三點尤其關鍵。GDPR 中的「合法利益」條款對處理敏感資料有限制,但多數 AI 聊天產品把對話資料歸類為「非敏感」。論文引用了部分產品的隱私政策,你會看到「我們可能會使用您的輸入來改進服務」這類表述——從字面上看沒錯。但改進服務的目的是什麼?很多情況下是賣廣告。

為什麼過去沒有曝光:對話資料的特殊性

cookie 追蹤這件事,使用者已經習以為常。裝個 uBlock、用個隱私視窗,大多數人就覺得自己「還行」。

但對話資料和 cookie 根本不是同一個量級的東西。cookie 能告訴你:

  • 瀏覽了哪些頁面
  • 點過哪些連結
  • 大致上的興趣方向

對話則能告訴你:

  • 使用者當下的真實意圖
  • 情緒狀態(焦慮、憤怒、悲傷)
  • 個人身分資訊(姓名、住址、公司、親屬)
  • 尚未發生的行為(計畫買什麼、想換工作、有沒有生病)

研究者特別強調這一點:對話是產品中的第一個「深度自我揭露」場景。過去的 cookie、搜尋關鍵字、社群按讚,都是使用者主動暴露的淺層訊號。對話不一樣——人們傾向於在 AI 聊天中說出平時不會告訴任何人的事。

這意味著,一旦對話資料進入廣告生態系,洩漏的危害會比 cookie 時代大上一個數量級。

使用者能做什麼:現階段沒有什麼好辦法

實話實說,我能給的建議很有限,而且都不是根治方案。

審視隱私政策——但大部分人不會讀,讀了也看不懂,看懂了也沒別的選擇(總不能不用 AI)。

謹慎輸入敏感資訊——但如果你已經用了 AI,這條建議已經來不及。

考慮本地模型——Llama、Qwen、Mistral 都有不錯的端側方案。但一般人不會架設,架設了也跑不動大模型,跑得動的 M2 Max / M3 Max 使用者是少數。

# 用 Ollama 跑一個本地 Qwen 模型的最小命令
ollama run qwen2.5:14b

# 資料完全本地,沒有任何對話外傳
# 代價:Mac mini M2 起步,14B 模型要 16GB 記憶體

真正能根治的有兩件事:

  1. 廠商透明化——明確告訴使用者對話資料流向哪些第三方,提供「不參與廣告訓練/追蹤」的付費方案
  2. 監管介入——把對話資料明確歸類為敏感資料,要求獨立的同意機制

第一項,部分廠商已經在做(Claude Pro、ChatGPT Plus 明確承諾不用於廣告訓練)。但免費方案怎麼辦?這是監管要回答的問題。

第二項,歐盟可能有動作。美國 FTC 也開過幾次會。但立法速度⋯⋯大家都懂。

編輯觀察

這件事和過去所有的「資料隱私」問題有一個根本差異:AI 聊天是第一個讓使用者把最深層思考外包給第三方的產品形態。

搜尋、電商、社群,使用者輸出的都是「訊號」——點擊、按讚、搜尋關鍵字。本質上,使用者在主動發布內容,知道(或隱約知道)有別人在看。

對話不一樣。使用者和 AI 聊「我最近睡不著,擔心被裁員」的時候,預設假設是「這是一場私密對話」。這個假設一旦被系統性地打破,受傷的不是隱私,而是使用者對整個 AI 產業的信任。

我的判斷有三個:第一,監管會來,但大概率晚於產品普及速度 2-3 年。歐盟可能率先在對話資料歸類上動手,但美國聯邦層級短期內沒戲。

第二,付費方案會成為新標準。Claude Pro、ChatGPT Plus 的「不用於廣告訓練」承諾,日後會從差異化賣點變成業界基準。免費方案會被要求明確標示資料流向,或被強制加上「廣告支援」的醒目標籤。

第三,本地模型會從極客玩具變成大眾需求。當使用者意識到對話資料的脆弱性,Ollama、LM Studio、端側推理的需求會比現在成長 10 倍。Apple Silicon + 開源模型的組合會吃到第一波紅利。

不確定的地方:論文是單一獨立研究者做的,樣本涵蓋範圍我無法獨立驗證。如果有大型安全團隊能重現這份研究,結論的可信度會上一個台階。但即使部分結論被修正,問題本身的嚴重性不會消失——只是範圍大小的差別。

最後一點:這件事和 Anthropic、OpenAI 這些頭部公司的關係,我沒有在論文中看到點名具體的追蹤 SDK 來源。但如果頭部公司在主流產品中真的預設接入了第三方廣告 SDK,這件事會比論文描述的更嚴重。

我會持續關注後續的重現研究和廠商回應。

來源: https://jorgegarciaherrero.com/wp-content/interactivos/20260916-Prompt-like-a-butterfly-sting-like-a-tracker-(clean).pdf