觀點

數學家不敢把未公開論文丟給 OpenAI:AI 信任帳算得太遲

研究者真正在意的不是 ChatGPT 好不好用,而是 OpenAI 從未提供一條可審核、可撤回、可隔離的資料通道,讓他們能安心使用。

字級

數學家不敢把未公開論文給 OpenAI:AI 信任帳算得太遲

事情起得很小。

8 月 22 日,Dresden 工業大學數學家 Andreas Thom 在 Mathstodon 上丟了一個問題:你們敢把還沒發表的數學證明餵給 ChatGPT 嗎?

問題本身不複雜,卻戳中了所有 AI 公司不願正面回應的灰色地帶。

48 小時內,這則 Mastodon 貼文被 Valerio Capraro 搬到了 X,Bluesky 上的 did:plc:ckaz32jwl6t2cno6fmuw2nhn 跟著接力,最後登上 HN 首頁。

跨平台擴散本身就是訊號——只有真正刺痛某個群體的內容,才會被搬運這麼多次。

研究者到底在怕什麼

留言區討論最多的,是三類非常具體的恐懼。

第一類,未發表的結論變成訓練資料。

一位專攻數論的助理教授寫道:「我讓 GPT-5 幫我潤飾一段證明草稿,隔天把同一個 idea 寫進論文投出去。萬一對面的模型比我早 6 個月就把這個 trick 學進去,等論文公開那天,reviewer 在模型輸出裡已經看過類似思路,怎麼辦?」

這不是被迫害妄想。AI 公司對輸入資料的處置方式一直是黑箱:API 呼叫預設會保留 30 天做濫用監控,企業用戶可以申請 ZDR(Zero Data Retention),但 ZDR 的覆蓋範圍、稽核細度、違約時的取證路,沒有任何一家 AI 廠商對外公開。

第二類,推論路徑被重現外洩。

更敏感的是證明思路本身。一位匿名留言者講得很直接:「結論我可以重寫,但那個 reduction 的構造過程是兩年磨出來的。餵給模型的那一刻,等於把還沒發表的鑰匙交給一個我管不了的系統。」

第三類,撤回困難。

GDPR 第 17 條予使用者「被遺忘權」,但前提是你能證明資料被某家美國公司持有。一段藏在推理請求裡的 200 行 LaTeX 草稿,你要怎麼證明它還躺在某台伺服器的 log 裡?又要怎麼證明它已經被刪除?

Valerio Capraro 在 X 上轉貼時,附了一句很冷靜的評論:「我們正在用研究者的職業生涯,幫 AI 公司做免費標註。」

OpenAI 的隱私條款實際寫了什麼

為了不靠印象說話,我翻了 OpenAI 目前的服務條款 和 API 資料使用政策。

核心事實如下:

  • 預設情況下,API 輸入資料 30 天後刪除,僅用於用與安全監控。
  • 申請 ZDR 的企業用戶可以走「零保留」流程,但這條通道不對學術研究者開放自助申請——你必須走 enterprise sales。
  • 條款裡沒有任何一段承諾「未發表學術成果」會被單獨隔離處理。
  • 訓練資料 opt-out 開關預設開啟,但只針對 ChatGPT 網頁/行動端;透過 API 呼叫時,opt-out 同樣需要 enterprise 帳號才能預設生效。

換句話說:OpenAI 的承諾體系是按「一般消費者」和「大型企業」兩層設計的,中間那層——獨立研究者、博士後、小型實驗室——完全是真空地帶。

這也是討論裡反覆出現的關鍵詞:可信任(trustworthy) 和 可驗證(verifiable) 是兩回事。AI 公司要你「相信」它們不會濫用你的資料,但沒給研究者一條可執行的稽核通道。

研究者手上的幾條退路

如果你是個不想被這波不確定性綁架的研究者,目前有幾條可執行的路徑。

退路 1:本地開源模型 + 私有部署。

這是討論裡出現頻率最高的方案。Qwen3(阿里)、DeepSeek-V3(深度求索)等開源系列在數學推論任務上的能力已經逼近閉源旗艦機型,本地部署 70B 級模型是數學圈討論中常被提及的硬體門檻。

最簡可跑的部署腳本示意(基於 vLLM,具體模型和參數依你的硬體調整):

pip install vllm

python -m vllm.entrypoints.openai.api_server \
  --model Qwen/Qwen3-235B-A22B-Instruct \
  --tensor-parallel-size 2 \
  --gpu-memory-utilization 0.92 \
  --host 127.0.0.1 \
  --port 8000

這樣所有數學證明草稿都留在你自己的 GPU 伺服器上,沒有任何第三方接。代價是要嘛自己買卡,要嘛租一台帶 H100 的雲端主機。

退路 2:呼叫 API,但走 opt-out + 主動協議。

如果本地推論滿足不了需求,至少做到三件事:

  1. 申請 OpenAI 的 Zero Data Retention(走 enterprise 申請,不是 ChatGPT 網頁端)。
  2. 在送進模型前,對證明草稿做脫敏——把變數名換成無語義符號,把待證結論換成佔位符。
  3. 在論文的 Methods 段落明確記錄「使用了 XX 模型,配置為 ZDR 模式」,讓 reviewer 與學界知道你的資料處置方式。
import re

def sanitize_proof(proof: str) -> str:
    # 替換數學變數 a, b, c, ..., z
    proof = re.sub(r'\b([a-z])\b', lambda m: f'x{ord(m.group(1))-97}', proof)
    # 替換可能的結論性表述
    proof = re.sub(r'\b(qed|theorem|lemma)\b', '[REDACTED]', proof, flags=re.IGNORECASE)
    return proof

raw = r"By lemma 3, a divides b. Therefore b = a * q. QED."
print(sanitize_proof(raw))

退路 3:徹底避開雲端 LLM,只用程式輔助工具。

數學這個領域有個特殊優勢:大量「AI 輔助」其實是 Lean 4、Coq、Isabelle 這類互動式證明助手可以完成的。這些工具的程式完全在本地環境執行,不存在資料外洩問題。Lean 4 的 mathlib 已經涵蓋大量大學部等級的數學內容,搭配 LLM 做 tactic 建議是目前比較穩妥的組合。

編輯觀點

這件事比「AI 加速科研」的主流敘事更值得報導,因為它戳破了一個被精心維持的假象:AI 公司希望研究者把模型當成「免費的博士後」,卻沒人願意為這個身份承擔對應的責任。

我的判斷是,未來 12 個月會出現一次明顯的「高敏研究者出走」——主要流向是明確為學術場景開設隔離通道的廠商,次要流向是本地開源部署。數學、密碼學、藥物化學這三個領域的頂尖實驗室最有可能率先表態,因為他們的研究成果一旦外洩,被重現的成本遠高於其他學科。

這次討論和過去一年所有的「AI 著作權爭議」不同:著作權爭議有判決可循、有賠償可談;而未發表學術成果的「信任成本」既無法量化也無法追溯。AI 公司如果繼續在 ToS 裡對獨立研究者保持沉默,丟掉的不只是幾個數學家,而是「AI for Science」這條敘事線的合法性。

來源: https://mathstodon.xyz/@andreasthom/117240535270608201