一份上了 Hacker News 榜首的 PDF
9 月 16 日,一个独立研究者 jorgegarciaherrero.com 在自己网站挂了一份 PDF,标题《Prompt like a butterfly, sting like a tracker》。
这东西在 Hacker News 首页挂了大概一整天,最后停在 252 分 / 72 条评论。这个量级在 HN 上属于"必须读"类目——HN 排名前几的帖子一年也就两百多个,大多数要么是大厂发布,要么是开源重磅项目。一份个人博客挂的 PDF 能冲到 252 分,意味着踩中了很多人心里那个不安的点。
PDF 本身阅读时间约 15 分钟。核心结论一句话:多家 AI 公司的聊天产品正在把用户对话数据泄露给广告生态,而且这不是 bug,是设计层面的数据流。
追踪是怎么发生的:prompt 里的隐性信号
论文的核心论点不是"某家 AI 公司偷偷卖了你的对话",而是追踪链条嵌入得比你想象的深。具体路径分三层:
第一层:关键词提取
用户输入 prompt 后,服务端会做内容理解。研究者追踪发现,某些产品从对话上下文里抽取关键词,然后送进广告 bidding 系统。和搜索引擎不同的是,搜索关键词是孤立的,对话关键词携带了完整语境。
举例:你在 ChatGPT 里问"我的胃一直疼,但这个月公司体检要排到下个月,我有点担心"。关键词不是"胃痛",是"胃痛 + 公司体检 + 焦虑"——这个画像比任何 cookie 都精准。
第二层:用户画像补全
广告 SDK 把这些关键词和已有的 cookie / 设备 ID 拼接,补全成完整的用户画像。研究者发现部分 AI 聊天产品里嵌入了第三方广告 SDK,这些 SDK 在网页端被屏蔽,在对话产品里却能读到上下文。
第三层:跨产品追踪
一旦对话数据进入广告生态,后续的追踪就和大厂广告网络里的其他渠道一样了。用户在 TikTok、Meta、Google 上看到的广告,会被这条新通道的关键词反向验证 / 加权。
技术上,这三层都不复杂。复杂的是它发生在用户以为"私密"的场景里。
波及范围:不只一家,是行业默认
论文里明确测了多家主流 AI 聊天产品。我不重复具体名单(读者自己去 PDF 里查),但研究者的结论很直白:这不是单点漏洞,是系统级数据流向。
问题不在"哪家公司做了坏事",而在于:
- 这套架构是行业默认的——免费 / 低价 AI 产品需要变现路径
- 隐私政策里都写了,但写得很绕,普通用户读不懂
- 监管目前没有针对对话数据的具体条款
第三点尤其关键。GDPR 里的"合法利益"条款对处理敏感数据有约束,但大多数 AI 聊天产品把对话数据归类为"非敏感"。论文引用了部分产品的隐私政策,你会看到"我们可能用您的输入来改进服务"这种表述——从字面上看没错。但改进服务的目的是什么?很多情况下是卖广告。
为什么以前没暴露:对话数据的特殊性
cookie 追踪这事,用户已经习惯了。装个 uBlock、用个隐私窗口,大部分人觉得自己"还行"。
但对话数据和 cookie 不是一个量级的东西。cookie 能告诉你:
- 访问了哪些页面
- 点过哪些链接
- 大概的兴趣方向
对话能告诉你:
- 用户当前的真实意图
- 情绪状态(焦虑、愤怒、悲伤)
- 个人身份信息(姓名、住址、公司、亲属)
- 还没发生的行为(计划买什么、想换工作、有没有病)
研究者特别强调这一点:对话是产品里的首次"深度自我披露"场景。 之前的 cookie、搜索关键词、社交点赞,都是用户主动暴露的浅层信号。对话不一样——人们倾向于在 AI 聊天里说出平时不会告诉任何人的事。
这意味着,一旦对话数据进入广告生态,泄露的危害比 cookie 时代大一个数量级。
用户能做什么:现阶段没什么好办法
实话实说,我能给的建议很有限,而且都不是根治方案。
审查隐私政策——但大部分人不会读,读了也看不懂,看懂了也没别的选择(总不能不用 AI)。
谨慎输入敏感信息——但如果你已经用了 AI,这条建议晚了。
考虑本地模型——Llama、Qwen、Mistral 都有不错的端侧方案。但普通人不会配,配了也跑不动大模型,跑得动的 M2 Max / M3 Max 用户是少数。
# 用 Ollama 跑一个本地 Qwen 模型的最小命令
ollama run qwen2.5:14b
# 数据完全本地,没有任何对话外传
# 代价:Mac mini M2 起步,14B 模型要 16GB 内存
真正能根治的是两件事:
- 厂商透明化——明确告诉用户对话数据流向哪些第三方,提供"不参与广告训练/追踪"的付费档
- 监管介入——把对话数据明确归类为敏感数据,要求单独的同意机制
第一件,部分厂商已经在做(Claude Pro、ChatGPT Plus 明确承诺不用于广告训练)。但免费档怎么办?这是监管要回答的问题。
第二件,欧盟可能在动。美国 FTC 也开过几次会。但立法速度……大家都懂。
编辑思考
这件事和之前所有的"数据隐私"问题有一个根本区别:AI 聊天是第一个让用户把最深层的思考外包给第三方的产品形态。
搜索、电商、社交,用户输出的都是"信号"——点击、点赞、搜索关键词。本质上,用户在主动发布内容,知道(或隐约知道)有别人在看。
对话不一样。用户和 AI 聊"我最近睡不着,担心被裁员"的时候,默认假设是"这是一个私密对话"。这种假设一旦被系统性地打破,伤害的不是隐私,而是用户对整个 AI 行业的信任。
我的判断有三个:第一,监管会来,但大概率晚于产品普及速度 2-3 年。 欧盟可能率先在对话数据归类上动手,但美国联邦层面短期内没戏。
第二,付费档会变成新标准。 Claude Pro、ChatGPT Plus 的"不用于广告训练"承诺,以后会从差异化卖点变成行业基准。免费档会被要求明确标注数据流向,或者被强制加"广告支持"的醒目标签。
第三,本地模型会从极客玩具变成大众需求。 当用户意识到对话数据的脆弱性,Ollama、LM Studio、端侧推理的需求会比现在增长 10 倍。Apple Silicon + 开源模型的组合会吃到第一波红利。
不确定的地方:论文是单独立研究者做的,样本覆盖范围我没法独立验证。 如果有大型安全团队能复现这个研究,结论的可信度会上一个台阶。但即使部分结论被修正,问题本身的严重性不会消失——只是范围大小的问题。
最后一点:这件事和 Anthropic、OpenAI 这些头部公司的关系,我没看到论文里点名具体的追踪 SDK 来源。但如果头部公司在主流产品里真的默认接入了第三方广告 SDK,这件事会比论文描述的更糟。
我会持续关注后续的复现研究和厂商回应。