观点

脑电数据训练 AI:授权机制为什么需要重做

消费级脑电设备开始采集用户数据用于 AI 训练。真正的问题不只是隐私条款,而是用户能否拆分授权、撤回数据,并追踪数据流向。

字号

消费级脑电设备正进入 AI 训练管线。对产品经理和开发者来说,关键不是多装几个电极,而是重新设计授权、撤回和审计机制。

消费级脑电设备正在把脑数据送进 AI 训练管线。难点不是多采几个电极,而是用户是否知道数据去了哪里、训练了什么,以及能否撤回授权。

11 个赞背后的争议

这篇报道登上 Hacker News 首页时,只有 11 个赞、3 条评论。

数量不大,争议却很清楚:社区关心的不是脑机接口看起来有多酷,而是厂商拿用户脑数据训练 AI 时,授权是否成立。

原文来自 Science,主题是消费级脑电设备厂商采集用户脑数据并用于训练 AI,而用户可能没有获得充分告知。

报道讨论的核心也很具体:消费级脑机接口数据与生成式 AI 结合后,敏感生物数据可能被进一步商业化利用。

这里需要先划清边界。现有素材没有披露具体脑电产品名、采集频率、训练数据规模,也没有厂商回应。因此,现在不能判断哪家厂商已经做了违规训练,更不能把报道直接等同于监管结论。

但这不意味着问题可以先放着。

数据一旦进入模型训练环节,就很难再完整撤回。用户删除账户、关掉设备或点下“不同意”,是否真的能消除已经参与训练的影响?这才是产品需要回答的问题。

脑数据不是普通传感器日志

心率、步数和睡眠数据通常被当作行为日志。它们有价值,但个人识别能力和信息密度,和脑电信号不完全是一回事。

脑电设备记录的是电活动。即便原始信号经过降噪、切片和特征提取,数据仍可能暴露个体差异、注意力状态或特定任务下的神经反应。

“匿名化”也不是一句声明就能解决。

如果同一批匿名数据来自不同用户,又被同一套原始信号、动作记录或设备特征重新关联,个人识别风险就可能回来。更麻烦的是,模型训练本身可能把罕见特征编码进参数,删除某个用户的数据并不会自动消除模型侧的影响。

所以,脑数据不应该沿用普通健康 App 的权限模板。至少要回答四个问题:

  • 原始信号在哪里保存,保存多久?
  • 哪些数据进入训练,哪些只用于设备功能?
  • 数据是否与人身份、设备标识或用户输入拼接?
  • 用户撤回后,已经训练出的模型如何处理?

如果厂商答不出来,“我们尊重隐私”就没有工程含义。

同意机制错在太方便

当前常见的做法,是把采集、模型训练、对外授权塞进一长串条款,再给用户一个“同意”按钮。

按钮很方便。有效选择却很难。

用户面对几十页文本时,通常不会逐项审阅模型训练的细节。结果不是充分授权,而是默认接受。

更合理的机制至少应包括:

  1. 采集数据与用于训练分开授权。
  2. 基础设备功能和 AI 训练分开开关。
  3. 对外提供或用于第三方模型训练,单独列明。
  4. 撤回入口不埋在客服工单里。
  5. 撤回后明确说明原始数据、派生数据和模型参数分别怎么处理。

关键不在于弹窗更长,而在于选项能否真正改变数据流。

一个开关如果关掉之后,数据仍会照常上传,或者退出只对明天生效,它只是界面装饰,不是权限控制。

AI Agent 带来新的数据出口

当 Claude、MCP 服务或其他 AI Agent 接入个人设备后,脑数据的问题会多一层。

过去,数据流通常是“设备 → 厂商服务器”。接入 Agent 后,可能变成:

脑电设备 → 本地或云端模型 → Agent → 外部工具 → 第三方服务

每增加一个工具,就多一个潜在出口。

例如,Agent 读取用户的注意力或疲劳信号后,把摘要交给日历、办公软件或健康服务。此时共享的也许不是原始脑电,而是从脑数据推导出的状态。

这类派生信息仍可能敏感。

因此,工具调用不能只问“这个 Agent 有没有访问脑数据”,还要问:

  • 哪个工具能读取哪些字段?
  • 工具调用是否需要逐次确认?
  • 外部工具返回的数据会不会再次进入模型上下文?
  • 调用日志保存多久,用户能否查看?
  • 工具链是否遵循数据最小化?

对 MCP 工具尤其如此。工具描述告诉模型“怎么调用”,但不应顺带成为长期数据授权书。

一个脑电设备如果提供 MCP Server,我会把权限设计成默认拒绝,并按任务临时授权:

{
  "permissions": {
    "brain_signals.read": "deny",
    "derived_state.read": "ask",
    "raw_data.export": "deny"
  }
}

这不是完整实现,但边界是对的:原始脑信号默认不开放,派生状态按次确认,任何导出能力默认关闭。

Agent 的便利不能建立在用户看不见的授权链上。

从隐私条款转向可验证审计

企业下一步该做的,不是继续润色隐私政策,而是把声明变成可检查的记录。

至少应披露:

  • 数据流向图:设备端、边缘端、云端和模型供应商分别拿到什么。
  • 保存期限:原始数据、清洗数据、特征和日志各自何时删除。
  • 第三方用途:是否用于通用模型、行业模型、客户项目或模型评测。
  • 撤回机制:停止未来处理后,是否支持删除已有数据。
  • 训练隔离:某次拒绝训练的数据,是否真的没有进入该次训练集。

最好还能提供机器可读、用户可访问的审计记录。类似这样的事件清单:

{
  "event": "brain_data_access",
  "scope": "derived_attention_state",
  "tool": "calendar_assistant",
  "authorization": "once",
  "timestamp": "2026-08-24T10:30:00Z"
}

记录不必公开全部脑数据,但应让用户知道谁在什么时候访问了哪些类别。

法律声明可以说明责任,运行时控制才能限制行为。前者靠信任用户去读,后者靠系统阻止不该发生的访问。

编辑思考

消费级脑电设备的竞争重点,很可能从传感器精度转向“数据信任层”。心率计拼续航和误差,脑电设备还要拼审计能力:能否把采集、训练、Agent 调用和撤回做成可验证链路。

这次和过去的数据授权争议不同。普通传感器日志通常还能通过删除记录来补救;进入模型训练后,影响可能沉淀进参数。接入 Claude 或 MCP 工具后,数据还会沿着 Agent 的工具调用继续扩散。

我的判断是,未来会出现一种“训练洁净度”指标,类似版本、能耗或佩戴舒适度,成为产品卖点。但这仍只是预测。当前报道没有给出具体厂商、合同文本、采集频率、训练规模和监管结论。在这些文件公开前,争议值得追,结论不能抢跑。

来源

https://www.science.org/content/article/wearable-device-makers-are-harvesting-brain-data-train-ai-without-telling-users?referrer=https%3A%2F%2Fwww.google.com%2F

来源: https://www.science.org/content/article/wearable-device-makers-are-harvesting-brain-data-train-ai-without-telling-users?referrer=https%3A%2F%2Fwww.google.com%2F