消費級腦電裝置正逐漸進入 AI 訓練管線。對產品經理與開發者而言,重點不是多裝幾個電極,而是重新設計授權、撤回與稽核機制。
腦電資料要用來訓練 AI:授權機制為何必須重做
消費級腦電裝置正把腦部資料送進 AI 訓練管線。難題不在於多採集幾個電極,而是使用者是否知道資料流向何處、模型學到了什麼,以及能否撤回授權。
只有 11 個讚,卻已引發明確爭議
這篇報導登上 Hacker News 首頁時,只有 11 個讚、3 則留言。
互動數量不多,爭議卻相當清楚:社群關心的不是腦機介面看起來多酷,而是廠商拿使用者的腦部資料訓練 AI 時,授權是否確實成立。
報導來自 Science,主題是消費級腦電裝置廠商蒐集使用者的腦部資料並用於訓練 AI,而使用者可能未獲得充分告知。
討論的核心也很具體:消費級腦機介面資料與生成式 AI 結合後,敏感生物資料可能被進一步用於商業牟利。
這裡需要先釐清界線。現有素材未揭露具體腦電產品名稱、採集頻率、訓練資料規模,也沒有廠商出面回應。因此,目前無法判斷哪家廠商已進行違規訓練,更不能把報導直接視為監管結論。
但這不代表問題可以暫且擱置。
資料一旦進入模型訓練環節,就很難再完整撤回。使用者刪除帳戶、關閉裝置或按下「不同意」後,究竟是否真能消除資料已參與訓練所造成的影響?這才是產品必須回應的問題。
腦部資料不是一般的感測器紀錄
心率、步數與睡眠資料通常被視為行為紀錄。它們固然有價值,但個人可識別程度與資訊密度,和腦電訊號並不完全相同。
腦電裝置記錄的是電活動。即使原始訊號經過降噪、切分與特徵萃取,資料仍可能揭露個體差異、注意力狀態,或特定任務下的神經反應。
所謂「匿名化」,也不是一句聲明就能解決。
如果同一批匿名資料來自不同使用者,之後又透過相同的原始訊號、動作紀錄或裝置特徵重新建立關聯,個人識別風險就可能再度出現。更棘手的是,模型訓練本身可能將罕見特徵編碼進參數;刪除某位使用者的資料,並不會自動消除模型端的影響。
因此,腦部資料不應沿用一般健康 App 的權限範本。至少必須回答四個問題:
- 原始訊號存放在哪裡,保留多久?
- 哪些資料會用於訓練,哪些只用於裝置功能?
- 資料是否與個人身分、裝置識別碼或使用者輸入相互連結?
- 使用者撤回授權後,已訓練完成的模型要如何處理?
如果廠商答不出來,「我們尊重隱私」就沒有任何工程上的實質意義。
同意機制錯在太方便
目前常見的做法,是把資料採集、模型訓練與對外授權全部塞進一長串條款,再提供一個「同意」按鈕。
按鈕很方便,卻很難形成有效選擇。
使用者面對數十頁文字時,通常不會逐項審閱模型訓練的細節。結果不是取得充分授權,而是直接接受預設設定。
更合理的機制至少應包括:
- 資料採集與用於訓練採行分開授權。
- 基礎裝置功能與 AI 訓練設為獨立開關。
- 對外提供資料或用於第三方模型訓練,必須單獨列明。
- 撤回入口不應藏在客服工單裡。
- 撤回後,必須明確說明原始資料、衍生資料與模型參數分別如何處理。
重點不是彈出視窗更長,而是選項能否真正改變資料流向。
如果某個開關關閉後,資料仍照常上傳,或者退出功能只能從隔天開始生效,那它只是介面裝飾,不是權限控管。
AI Agent 帶來新的資料出口
當 Claude、MCP 服務或其他 AI Agent 接入個人裝置後,腦部資料的問題還會再多一層。
過去,資料流向通常是「裝置 → 廠商伺服器」。接入 Agent 後,可能變成:
腦電裝置 → 本地或雲端模型 → Agent → 外部工具 → 第三方服務
每增加一項工具,就多一個潛在出口。
例如,Agent 讀取使用者的注意力或疲勞訊號後,將摘要交給日曆、辦公軟體或健康服務。此時共享的或許不是原始腦電資料,而是從腦部資料推導出的狀態。
這類衍生資訊仍可能具有敏感性。
因此,工具呼叫不能只問「這個 Agent 是否有權存取腦部資料」,還必須問:
- 哪些工具可以讀取哪些欄位?
- 工具呼叫是否需要逐次確認?
- 外部工具回傳的資料會不會再次進入模型上下文?
- 呼叫紀錄會保留多久,使用者能否查看?
- 整條工具鏈是否遵循資料最小化原則?
對 MCP 工具而言尤其如此。工具描述會告訴模型「如何呼叫」,但不應因此變成長效資料授權書。
如果某款腦電裝置提供 MCP Server,我會把權限設計成預設拒絕,並依任務臨時授權:
{
"permissions": {
"brain_signals.read": "deny",
"derived_state.read": "ask",
"raw_data.export": "deny"
}
}
這不是完整實作,但邊界是正確的:原始腦訊號預設不開放,衍生狀態按次確認,任何資料匯出能力預設關閉。
Agent 帶來的便利,不能建立在使用者看不見的授權鏈之上。
從隱私條款轉向可驗證的稽核
企業下一步該做的,不是繼續修飾隱私政策,而是把聲明轉化為可以查核的紀錄。
至少應揭露以下資訊:
- 資料流向圖:裝置端、邊緣端、雲端與模型供應商分別取得哪些資料。
- 保存期限:原始資料、清洗後資料、特徵與日誌各自何時刪除。
- 第三方用途:是否用於通用模型、產業模型、客戶專案或模型評測。
- 撤回機制:停止後續處理後,是否支援刪除既有資料。
- 訓練隔離:遭拒絕用於訓練的資料,是否確實沒有進入該次訓練集。
最好還能提供機器可讀取、使用者也能存取的稽核紀錄,例如以下事件清單:
{
"event": "brain_data_access",
"scope": "derived_attention_state",
"tool": "calendar_assistant",
"authorization": "once",
"timestamp": "2026-08-24T10:30:00Z"
}
紀錄不必公開完整腦部資料,但應讓使用者知道誰在什麼時間存取了哪些類別的資料。
法律聲明可以說明責任,執行階段的控管才能限制行為。前者仰賴使用者願意閱讀,後者則仰賴系統阻止不應發生的存取。
編輯觀察
消費級腦電裝置的競爭重點,很可能會從感測器精度轉向「資料信任層」。心率計競爭的是續航力與誤差,腦電裝置還要競爭稽核能力:能否將採集、訓練、Agent 呼叫與撤回串成一條可驗證的鏈路。
這次與過去的資料授權爭議不同。一般感測器日誌通常還能透過刪除紀錄來補救;資料進入模型訓練後,影響可能沉澱在參數裡。接入 Claude 或 MCP 工具後,資料還會沿著 Agent 的工具呼叫持續擴散。
我的判斷是,未來可能出現「訓練潔淨度」指標, akin 版本、能耗或佩戴舒適度,成為產品賣點。不過,這目前仍只是一項預測。當前報導未提供具體廠商、合約條文、採集頻率、訓練規模與監管結論。在這些文件公開前,爭議值得追蹤,但結論不能搶先。