產品

Gemini 付費了,聊天內容仍可能拿去訓練模型?

Google 的文件顯示,Gemini 個人帳戶只要開啟 Keep Activity,聊天紀錄就可能被用於訓練生成式 AI 模型。付費方案並未提供獨立的訓練退出選項,使用者只能關閉紀錄保存或改用 Temporary Chat。

字級

爭議從哪裡來

本週 Hacker News 首頁出現一則 Tell HN 討論,問題很明確:Google Gemini 付費用戶的聊天紀錄,是否仍會預設用於模型訓練?

Google 的答案基本上是肯定的。

根據 Google Gemini Apps 說明,個人 Google AI 訂閱使用者若啟用 Keep Activity,已儲存的聊天紀錄可能用於改善 Google 服務,其中包括訓練生成式 AI 模型。

換句話說,Gemini Pro、Ultra 等付費訂閱不會自動附帶「退出模型訓練」的權利。免費用戶和付費用戶面對的是同一項限制:沒有獨立的 opt-out 開關。

付費不等於免於訓練

這件事最容易造成誤解的地方,是把「免費」和「付費」視為兩套不同的資料規則。

Google 的文件並未承諾,付費用戶的聊天內容會與免費用戶分開處理。關鍵條件是 Keep Activity,而非訂閱級距。只要活動紀錄被保留,儲存下來的對話就可能被用於改善服務,生成式 AI 模型訓練也在適用範圍內。

因此,結論並不令人愉快:

付費使用 Gemini,買到的是模型能力與使用額度,而不是預設的資料隔離。

這不代表 Google 在暗中處理資料,而是產品設計未提供獨立的訓練控制選項。使用者通常會期待有一項明確設定,名稱可能是「允許改善模型」或「用於訓練」,再自行決定是否開啟。

Gemini 個人帳戶目前缺少這層語意。相關討論由 Tell HN 發布至 Hacker News 首頁。留言區的爭議焦點是:功能設定為何必須與模型訓練授權綁在一起?

目前只有兩種退出方式

依 Google 的支援文件,個人 Google AI 訂閱使用者若不希望聊天紀錄用於模型訓練,目前只有兩種做法:

  1. 關閉聊天紀錄保存,也就是停用 Keep Activity。
  2. 使用 Temporary Chat 開啟臨時對話。

這兩種方式都不是獨立的「退出訓練」開關。

停用 Keep Activity 後,聊天紀錄不會被保存,代價則是失去跨對話保留上下文的能力。個人提示、專案背景與連續對話,都可能無法再作為歷史上下文沿用。

Temporary Chat 會把單次對話視為臨時空間,不將聊天紀錄寫入帳戶的 Keep Activity 歷史。它適合處理一次性任務,但同樣會犧牲長期上下文,以及沿著既有對話繼續追問的體驗。

可以這樣理解:

使用者目標:只退出模型訓練

Google 提供:
- 關閉聊天紀錄保存
- 使用 Temporary Chat

程式沒有提供 opt_out_training=true 之類的參數。使用者想將資料使用降到最低,卻必須一併關閉聊天歷史。

對一般使用者而言,這增加了使用摩擦;對經常讓 Gemini 處理程式碼日報與專案資料的工程師來說,則會直接改變工作流程。

人工審核讓風險更明確

訓練用途只是爭議的一部分。Google 官方說明也提到,Gemini 應用程式活動可能由人工審核人員查看。Google 表示,人工審核完成後,會切斷相關紀錄與使用者帳戶的關聯。

這項補充回答了一個問題:審核人員不應長期持有「某項內容屬於特定帳戶」的關聯紀錄。

但「審核後中斷關聯」不等於資料從未被內部人員存取。審核行為本身已經發生。較為謹慎的企業客戶仍會繼續追問:

  • 人工審核涵蓋哪些資料?
  • 審核人員能看到完整對話,還是經過篩選的樣本?
  • 中斷關聯具體發生在哪個時間點?
  • 審核日誌、截圖或快取是否會被保留?
  • 不同地區、訂閱級距與企業工作區的規則是否一致?

目前文件提供的資訊,仍不足以回答所有這些問題。

「切斷關聯」描述的是審核後的狀態,不能自動推論出審核過程不存在存取風險。兩者並不相同。

別把聊天視窗當成企業保險箱

Google 在說明文件中明確警告:不要在 Gemini 對話中輸入機密資訊。這應被視為硬性規則,而非彈出視窗角落的柔性提示。

尤其不應提交以下內容:

  • API key、Access Token 與資料庫密碼
  • 尚未公開的客戶程式碼
  • 合約、併購資料與財務預測
  • 內部事故紀錄與安全漏洞細節
  • 含有個人資訊的匯出資料
  • 生產環境日誌、完整 request body 與使用者資料

我的做法是採取分層策略,而不是假定所有對話天生安全:

  1. 預設只使用合成資料、公開文件與去識別化樣本。
  2. 貼上程式碼前,先移除憑證、網域、客戶名稱與內部識別資訊。
  3. 以占位符取代真正的秘密,例如把 token 寫成 YOUR_API_KEY。
  4. 必須使用真實資料時,優先選擇明確提供企業資料控制權的 Gemini Enterprise、Vertex AI 或其他受合約約束的服務。
  5. 不要把「訂閱了 Pro」當成「資料不會用於訓練」的依據。

這裡不需要複雜腳本。許多資料外洩事故並非源自高難度攻擊,而只是一次隨手複製貼上。

編輯觀察

這次爭議真正重要的地方,不是 Gemini 又調整了一次隱私文案,而是付費用戶仍未換來清楚的資料控制權。Google 把「保留歷史」、「人工審核」與「用於訓練」綁在 Keep Activity 之下,使用者只能停用整項功能來降低風險。對消費性產品而言,這或許可以理解;對處理程式碼與商業資料的付費使用者來說,卻不夠精確。

我的判斷是,獨立於產品功能之外的訓練退出權,終將成為企業採購的硬性條件。僅寫明「資料不會用於訓練」還不夠,審核範圍、保留期限與第三方處理商也必須能夠查證。

這次與過去不同的地方,在於聊天模型已不只是搜尋框,而是日常軟體入口。爭議也不再圍繞單次問答,而是聚焦於帳戶能否累積上下文。未來更合理的設定,應像廣告追蹤授權一樣:將訓練用途獨立成開關,明確標示預設狀態、影響範圍與撤回方式。Gemini 現在的問題,正是把資料控制藏在功能開關背後。

來源

https://news.ycombinator.com/item?id=50363461

來源: https://news.ycombinator.com/item?id=50363461