消费级脑电设备正进入 AI 训练管线。对产品经理和开发者来说,关键不是多装几个电极,而是重新设计授权、撤回和审计机制。
消费级脑电设备正在把脑数据送进 AI 训练管线。难点不是多采几个电极,而是用户是否知道数据去了哪里、训练了什么,以及能否撤回授权。
11 个赞背后的争议
这篇报道登上 Hacker News 首页时,只有 11 个赞、3 条评论。
数量不大,争议却很清楚:社区关心的不是脑机接口看起来有多酷,而是厂商拿用户脑数据训练 AI 时,授权是否成立。
原文来自 Science,主题是消费级脑电设备厂商采集用户脑数据并用于训练 AI,而用户可能没有获得充分告知。
报道讨论的核心也很具体:消费级脑机接口数据与生成式 AI 结合后,敏感生物数据可能被进一步商业化利用。
这里需要先划清边界。现有素材没有披露具体脑电产品名、采集频率、训练数据规模,也没有厂商回应。因此,现在不能判断哪家厂商已经做了违规训练,更不能把报道直接等同于监管结论。
但这不意味着问题可以先放着。
数据一旦进入模型训练环节,就很难再完整撤回。用户删除账户、关掉设备或点下“不同意”,是否真的能消除已经参与训练的影响?这才是产品需要回答的问题。
脑数据不是普通传感器日志
心率、步数和睡眠数据通常被当作行为日志。它们有价值,但个人识别能力和信息密度,和脑电信号不完全是一回事。
脑电设备记录的是电活动。即便原始信号经过降噪、切片和特征提取,数据仍可能暴露个体差异、注意力状态或特定任务下的神经反应。
“匿名化”也不是一句声明就能解决。
如果同一批匿名数据来自不同用户,又被同一套原始信号、动作记录或设备特征重新关联,个人识别风险就可能回来。更麻烦的是,模型训练本身可能把罕见特征编码进参数,删除某个用户的数据并不会自动消除模型侧的影响。
所以,脑数据不应该沿用普通健康 App 的权限模板。至少要回答四个问题:
- 原始信号在哪里保存,保存多久?
- 哪些数据进入训练,哪些只用于设备功能?
- 数据是否与人身份、设备标识或用户输入拼接?
- 用户撤回后,已经训练出的模型如何处理?
如果厂商答不出来,“我们尊重隐私”就没有工程含义。
同意机制错在太方便
当前常见的做法,是把采集、模型训练、对外授权塞进一长串条款,再给用户一个“同意”按钮。
按钮很方便。有效选择却很难。
用户面对几十页文本时,通常不会逐项审阅模型训练的细节。结果不是充分授权,而是默认接受。
更合理的机制至少应包括:
- 采集数据与用于训练分开授权。
- 基础设备功能和 AI 训练分开开关。
- 对外提供或用于第三方模型训练,单独列明。
- 撤回入口不埋在客服工单里。
- 撤回后明确说明原始数据、派生数据和模型参数分别怎么处理。
关键不在于弹窗更长,而在于选项能否真正改变数据流。
一个开关如果关掉之后,数据仍会照常上传,或者退出只对明天生效,它只是界面装饰,不是权限控制。
AI Agent 带来新的数据出口
当 Claude、MCP 服务或其他 AI Agent 接入个人设备后,脑数据的问题会多一层。
过去,数据流通常是“设备 → 厂商服务器”。接入 Agent 后,可能变成:
脑电设备 → 本地或云端模型 → Agent → 外部工具 → 第三方服务
每增加一个工具,就多一个潜在出口。
例如,Agent 读取用户的注意力或疲劳信号后,把摘要交给日历、办公软件或健康服务。此时共享的也许不是原始脑电,而是从脑数据推导出的状态。
这类派生信息仍可能敏感。
因此,工具调用不能只问“这个 Agent 有没有访问脑数据”,还要问:
- 哪个工具能读取哪些字段?
- 工具调用是否需要逐次确认?
- 外部工具返回的数据会不会再次进入模型上下文?
- 调用日志保存多久,用户能否查看?
- 工具链是否遵循数据最小化?
对 MCP 工具尤其如此。工具描述告诉模型“怎么调用”,但不应顺带成为长期数据授权书。
一个脑电设备如果提供 MCP Server,我会把权限设计成默认拒绝,并按任务临时授权:
{
"permissions": {
"brain_signals.read": "deny",
"derived_state.read": "ask",
"raw_data.export": "deny"
}
}
这不是完整实现,但边界是对的:原始脑信号默认不开放,派生状态按次确认,任何导出能力默认关闭。
Agent 的便利不能建立在用户看不见的授权链上。
从隐私条款转向可验证审计
企业下一步该做的,不是继续润色隐私政策,而是把声明变成可检查的记录。
至少应披露:
- 数据流向图:设备端、边缘端、云端和模型供应商分别拿到什么。
- 保存期限:原始数据、清洗数据、特征和日志各自何时删除。
- 第三方用途:是否用于通用模型、行业模型、客户项目或模型评测。
- 撤回机制:停止未来处理后,是否支持删除已有数据。
- 训练隔离:某次拒绝训练的数据,是否真的没有进入该次训练集。
最好还能提供机器可读、用户可访问的审计记录。类似这样的事件清单:
{
"event": "brain_data_access",
"scope": "derived_attention_state",
"tool": "calendar_assistant",
"authorization": "once",
"timestamp": "2026-08-24T10:30:00Z"
}
记录不必公开全部脑数据,但应让用户知道谁在什么时候访问了哪些类别。
法律声明可以说明责任,运行时控制才能限制行为。前者靠信任用户去读,后者靠系统阻止不该发生的访问。
编辑思考
消费级脑电设备的竞争重点,很可能从传感器精度转向“数据信任层”。心率计拼续航和误差,脑电设备还要拼审计能力:能否把采集、训练、Agent 调用和撤回做成可验证链路。
这次和过去的数据授权争议不同。普通传感器日志通常还能通过删除记录来补救;进入模型训练后,影响可能沉淀进参数。接入 Claude 或 MCP 工具后,数据还会沿着 Agent 的工具调用继续扩散。
我的判断是,未来会出现一种“训练洁净度”指标,类似版本、能耗或佩戴舒适度,成为产品卖点。但这仍只是预测。当前报道没有给出具体厂商、合同文本、采集频率、训练规模和监管结论。在这些文件公开前,争议值得追,结论不能抢跑。
来源
https://www.science.org/content/article/wearable-device-makers-are-harvesting-brain-data-train-ai-without-telling-users?referrer=https%3A%2F%2Fwww.google.com%2F