觀點

腦電資料要用來訓練 AI,授權機制為何必須重做

消費級腦電裝置已開始將使用者資料納入 AI 訓練,真正的挑戰不只是隱私條款,而是使用者能否拆分授權、撤回資料,並追蹤資料流向。

字級

消費級腦電裝置正逐漸進入 AI 訓練管線。對產品經理與開發者而言,重點不是多裝幾個電極,而是重新設計授權、撤回與稽核機制。

腦電資料要用來訓練 AI:授權機制為何必須重做

消費級腦電裝置正把腦部資料送進 AI 訓練管線。難題不在於多採集幾個電極,而是使用者是否知道資料流向何處、模型學到了什麼,以及能否撤回授權。

只有 11 個讚,卻已引發明確爭議

這篇報導登上 Hacker News 首頁時,只有 11 個讚、3 則留言。

互動數量不多,爭議卻相當清楚:社群關心的不是腦機介面看起來多酷,而是廠商拿使用者的腦部資料訓練 AI 時,授權是否確實成立。

報導來自 Science,主題是消費級腦電裝置廠商蒐集使用者的腦部資料並用於訓練 AI,而使用者可能未獲得充分告知。

討論的核心也很具體:消費級腦機介面資料與生成式 AI 結合後,敏感生物資料可能被進一步用於商業牟利。

這裡需要先釐清界線。現有素材未揭露具體腦電產品名稱、採集頻率、訓練資料規模,也沒有廠商出面回應。因此,目前無法判斷哪家廠商已進行違規訓練,更不能把報導直接視為監管結論。

但這不代表問題可以暫且擱置。

資料一旦進入模型訓練環節,就很難再完整撤回。使用者刪除帳戶、關閉裝置或按下「不同意」後,究竟是否真能消除資料已參與訓練所造成的影響?這才是產品必須回應的問題。

腦部資料不是一般的感測器紀錄

心率、步數與睡眠資料通常被視為行為紀錄。它們固然有價值,但個人可識別程度與資訊密度,和腦電訊號並不完全相同。

腦電裝置記錄的是電活動。即使原始訊號經過降噪、切分與特徵萃取,資料仍可能揭露個體差異、注意力狀態,或特定任務下的神經反應。

所謂「匿名化」,也不是一句聲明就能解決。

如果同一批匿名資料來自不同使用者,之後又透過相同的原始訊號、動作紀錄或裝置特徵重新建立關聯,個人識別風險就可能再度出現。更棘手的是,模型訓練本身可能將罕見特徵編碼進參數;刪除某位使用者的資料,並不會自動消除模型端的影響。

因此,腦部資料不應沿用一般健康 App 的權限範本。至少必須回答四個問題:

  • 原始訊號存放在哪裡,保留多久?
  • 哪些資料會用於訓練,哪些只用於裝置功能?
  • 資料是否與個人身分、裝置識別碼或使用者輸入相互連結?
  • 使用者撤回授權後,已訓練完成的模型要如何處理?

如果廠商答不出來,「我們尊重隱私」就沒有任何工程上的實質意義。

同意機制錯在太方便

目前常見的做法,是把資料採集、模型訓練與對外授權全部塞進一長串條款,再提供一個「同意」按鈕。

按鈕很方便,卻很難形成有效選擇。

使用者面對數十頁文字時,通常不會逐項審閱模型訓練的細節。結果不是取得充分授權,而是直接接受預設設定。

更合理的機制至少應包括:

  1. 資料採集與用於訓練採行分開授權。
  2. 基礎裝置功能與 AI 訓練設為獨立開關。
  3. 對外提供資料或用於第三方模型訓練,必須單獨列明。
  4. 撤回入口不應藏在客服工單裡。
  5. 撤回後,必須明確說明原始資料、衍生資料與模型參數分別如何處理。

重點不是彈出視窗更長,而是選項能否真正改變資料流向。

如果某個開關關閉後,資料仍照常上傳,或者退出功能只能從隔天開始生效,那它只是介面裝飾,不是權限控管。

AI Agent 帶來新的資料出口

當 Claude、MCP 服務或其他 AI Agent 接入個人裝置後,腦部資料的問題還會再多一層。

過去,資料流向通常是「裝置 → 廠商伺服器」。接入 Agent 後,可能變成:

腦電裝置 → 本地或雲端模型 → Agent → 外部工具 → 第三方服務

每增加一項工具,就多一個潛在出口。

例如,Agent 讀取使用者的注意力或疲勞訊號後,將摘要交給日曆、辦公軟體或健康服務。此時共享的或許不是原始腦電資料,而是從腦部資料推導出的狀態。

這類衍生資訊仍可能具有敏感性。

因此,工具呼叫不能只問「這個 Agent 是否有權存取腦部資料」,還必須問:

  • 哪些工具可以讀取哪些欄位?
  • 工具呼叫是否需要逐次確認?
  • 外部工具回傳的資料會不會再次進入模型上下文?
  • 呼叫紀錄會保留多久,使用者能否查看?
  • 整條工具鏈是否遵循資料最小化原則?

對 MCP 工具而言尤其如此。工具描述會告訴模型「如何呼叫」,但不應因此變成長效資料授權書。

如果某款腦電裝置提供 MCP Server,我會把權限設計成預設拒絕,並依任務臨時授權:

{
  "permissions": {
    "brain_signals.read": "deny",
    "derived_state.read": "ask",
    "raw_data.export": "deny"
  }
}

這不是完整實作,但邊界是正確的:原始腦訊號預設不開放,衍生狀態按次確認,任何資料匯出能力預設關閉。

Agent 帶來的便利,不能建立在使用者看不見的授權鏈之上。

從隱私條款轉向可驗證的稽核

企業下一步該做的,不是繼續修飾隱私政策,而是把聲明轉化為可以查核的紀錄。

至少應揭露以下資訊:

  • 資料流向圖:裝置端、邊緣端、雲端與模型供應商分別取得哪些資料。
  • 保存期限:原始資料、清洗後資料、特徵與日誌各自何時刪除。
  • 第三方用途:是否用於通用模型、產業模型、客戶專案或模型評測。
  • 撤回機制:停止後續處理後,是否支援刪除既有資料。
  • 訓練隔離:遭拒絕用於訓練的資料,是否確實沒有進入該次訓練集。

最好還能提供機器可讀取、使用者也能存取的稽核紀錄,例如以下事件清單:

{
  "event": "brain_data_access",
  "scope": "derived_attention_state",
  "tool": "calendar_assistant",
  "authorization": "once",
  "timestamp": "2026-08-24T10:30:00Z"
}

紀錄不必公開完整腦部資料,但應讓使用者知道誰在什麼時間存取了哪些類別的資料。

法律聲明可以說明責任,執行階段的控管才能限制行為。前者仰賴使用者願意閱讀,後者則仰賴系統阻止不應發生的存取。

編輯觀察

消費級腦電裝置的競爭重點,很可能會從感測器精度轉向「資料信任層」。心率計競爭的是續航力與誤差,腦電裝置還要競爭稽核能力:能否將採集、訓練、Agent 呼叫與撤回串成一條可驗證的鏈路。

這次與過去的資料授權爭議不同。一般感測器日誌通常還能透過刪除紀錄來補救;資料進入模型訓練後,影響可能沉澱在參數裡。接入 Claude 或 MCP 工具後,資料還會沿著 Agent 的工具呼叫持續擴散。

我的判斷是,未來可能出現「訓練潔淨度」指標, akin 版本、能耗或佩戴舒適度,成為產品賣點。不過,這目前仍只是一項預測。當前報導未提供具體廠商、合約條文、採集頻率、訓練規模與監管結論。在這些文件公開前,爭議值得追蹤,但結論不能搶先。

來源

https://www.science.org/content/article/wearable-device-makers-are-harvesting-brain-data-train-ai-without-telling-users?referrer=https%3A%2F%2Fwww.google.com%2F

來源: https://www.science.org/content/article/wearable-device-makers-are-harvesting-brain-data-train-ai-without-telling-users?referrer=https%3A%2F%2Fwww.google.com%2F