大型語言模型

Claude 蛋白質序列訓練傳聞,以及科學模型的真正瓶頸

Claude 的預訓練資料是否納入大規模蛋白質序列,目前仍只有媒體轉述,Anthropic 也未正式證實。真正值得追蹤的,是序列資料、結構工具與濕實驗能否串成可驗證的閉環。

字級

先拆解傳聞:模型訓練了什麼,又缺少什麼證據

這則消息來自 Hacker News 首頁文章《Claude was trained on protein sequences at scale》。依草稿引用的頁面狀態,當時有 103 分及 43 則留言。

開發者的問題相當集中:Claude 的訓練資料是否真的加入蛋白質序列?如果有,規模多大?占預訓練資料的比例為何?模型是否公開相關 benchmark?

目前來源是一篇個人部落格文章。文章宣稱 Claude Opus 5.5 的訓練資料包含大規模蛋白質序列,而非只有文字語料。原始連結:

http://xinmingtu.cn/blog/2026/claude-opus-5-5-protein-sequences/

但必須先劃清楚證據邊界:

  • Anthropic 尚未公開證實這項消息。
  • 轉載內容沒有提供具體資料量。
  • 蛋白質資料與文字資料的訓練比例並未揭露。
  • 文章沒有提供結構預測、功能預測或濕實驗的評估結果。

因此,現階段能確認的是「出現了這類報導與討論」,不能斷定「Claude 已具備穩定的蛋白質建模能力」。

這則消息值得關注,不是因為某項未經證實的產品傳聞,而是因為它指向一個具體的技術方向:LLM 的預訓練資料,可能正從自然語言延伸至自然界中可檢驗的序列結構。

序列不是文字,卻能轉化為相同的監督訊號

蛋白質不是文字,但在機器學習中,它與文字有一項共同點:兩者都能切分為離散 token,並以 next-token prediction 進行訓練。

最直接的編碼方式,是把 20 種標準胺基酸對應到不同 token。例如:

amino_acids = list("ACDEFGHIKLMNPQRSTVWY")

token_to_id = {aa: i for i, aa in enumerate(amino_acids)}
sequence = "MKTAYIAKQRQISFVKSHFSRQLEERLGLIEVQ"
tokens = [token_to_id[aa] for aa in sequence]

assert len(tokens) == len(sequence)
assert set(tokens) <= set(token_to_id.values())

這段程式碼本身沒有生物學知識,只是將序列轉換為整數。真正的學習發生在預訓練目標中:根據前面的胺基酸,預測下一個胺基酸。

從機制來看,這類訓練可能讓模型學到三類規律:

  1. 胺基酸組成偏好。不同蛋白質的殘基分布並不均勻。
  2. 局部生物物理限制。疏水殘基、帶電殘基與空間位阻,會影響哪些片段較可能出現。
  3. 演化模式。保守位點、重複片段與結構域邊界,都會在序列中留下統計訊號。

需要強調的是,上述推論來自對序列訓練機制的技術分析,並非轉載文章所揭露的 Anthropic 官方結論。

不過,這仍不足以推出「模型已經理解蛋白質」。next-token prediction 學到的是分布與限制,不代表模型理解蛋白質的折疊機制,更不保證能設計出可表現、可純化且可重現的蛋白質。

反直覺觀察:資料規模大,不等於預測準確

最容易遭人忽略的問題,是把「資料規模」與「任務準確率」畫上等號。

即使訓練集包含數億條蛋白質序列,模型仍可能犯下幾種基礎錯誤:

  • 序列來自資料庫,但標註品質不一致。
  • 同源序列高度重複,使訓練規模遭到高估。
  • 只有正向序列,缺少「什麼不是有效蛋白質」的負向樣本。
  • 評估集與訓練集過於接近,產生資料洩漏。
  • 序列相似,不代表功能相同。
  • 序列預測正確,不代表三維結構正確。
  • 結構接近,不代表結合親和力符合預期。

真正決定科學價值的,往往不是最後幾個百分點,而是評估protocol是否可信。

對蛋白質任務而言,一套合格的 benchmark 至少要說明資料切分方式、訓練時間點、同源序列洩漏控制、指標定義,以及評估結果是否與濕實驗相符。缺少這些資訊,單一模型的高分很難進行橫向比較。

這也是 LLM 進入科學領域時常見的落差:模型可以根據網頁文字解釋 AlphaFold,也能呼叫結構預測 API;但「知道如何使用工具」與「提出正確問題」仍是兩回事。

從語言到蛋白質,真正共享的是對齊能力

通用 LLM 與專用科學模型更可能形成分工,而不是單純互相取代。

LLM 擅長處理自然語言、檢索資料、拆解問題、整理實驗方案,也擅長呼叫外部工具。專用模型則更擅長在明確的輸入與輸出條件下執行結構預測、能量計算、分子對接及量化模擬。

更符合實際需求的工作流程是:

  1. LLM 從論文與資料庫中找出候選靶點。
  2. 呼叫結構預測或量化工具。
  3. 依失敗結果修改設計。
  4. 產生實驗方案與候選序列。
  5. 將實驗回饋寫回系統。

此處真正共享的並非某個「萬能大腦」,而是資料、工具與回饋之間的對齊能力。

若模型在訓練與推理期間接觸過蛋白質序列,或許便能更準確地判斷哪些序列片段值得呼叫結構預測工具、哪些突變應交由物理模型計算,以及哪些候選應優先送入濕實驗。

這比「模型會不會寫出一段看起來像蛋白質的序列」更接近實際的生產價值。

開發者接下來該關注什麼

接下來有四個可供驗證的方向。

第一,序列與結構的聯合訓練。

只學習序列,模型便無法直接判斷折疊後的空間關係。加入結構、接觸圖與功能標籤後,模型才可能把序列模式映射至三維結構。真正的關鍵不是參數量,而是三類資料如何配比。

第二,工具呼叫能否形成閉環。

科學推理不能停在 token prediction。模型需要呼叫 Fold、分子對接、文獻檢索與量化模擬工具,並將運算失敗或實驗偏差回饋至下一輪設計。

第三,主動學習是否優於持續擴充預訓練資料。

如果候選序列已經過運算或實驗驗證,主動學習可以透過少量高價值樣本修正模型,成本也比無條件擴大語料庫更低。

第四,公開 benchmark。

若 Anthropic 確實進行過這類訓練,至少應揭露:

  • 序列資料來源與去重方法。
  • 各類訓練資料的比例。
  • 與純文字模型的對照結果。
  • 結構、功能與設計任務的獨立評估。
  • 在未見同源家族上的泛化結果。

在這些資訊公布前,開發者可以先進行小規模重現。一種可執行的做法,是比較「純文字 prompt」與「結構化序列 prompt」對同一批蛋白質的解釋品質:

from anthropic import Anthropic

client = Anthropic()

sequence = "MKTAYIAKQRQISFVKSHFSRQLEERLGLIEVQ"
prompt = f"""Analyze this protein sequence.
Sequence: {sequence}

Answer in JSON with these keys:
- likely_length_class
- likely_composition
- uncertainty

Do not infer a specific biological function without evidence.
"""

message = client.messages.create(
    model="claude-sonnet-4-5",
    max_tokens=500,
    messages=[{"role": "user", "content": prompt}],
)

print(message.content[0].text)

程式碼依賴 anthropic Python SDK 與 ANTHROPIC_API_KEY。它無法證明 Claude Opus 5.5 曾接受蛋白質序列訓練,也不足以構成科學評測;它只是提供一條低成本實驗入口。真正有價值的實驗,還需要結構標籤、經同源序列隔離的資料集,以及能驗證輸出的外部工具。

編輯觀察

這則消息的重要性,不在於 Claude 突然掌握了生命科學,而是 LLM 的預訓練輸入可能開始接近自然界中可檢驗的資料結構。文字事實可以停留在網頁上,蛋白質序列卻同時受到生物物理、演化與實驗的限制。模型接觸這類資料後,才可能把序列生成接入結構預測與實驗迭代。

下一階段更值得关注的,不是打造更大的科學模型,而是建立更可靠的閉環:由模型提出候選、運算工具進行篩選、實驗回傳結果,再由系統持續學習。通用 LLM 與專用模型會繼續分工,不會由單一模型包辦所有工作。

這次與過去不同的地方在於,問題已從「模型能否解釋科學」轉向「模型能否利用可驗證的訊號完成工作」。不過,目前只有個人部落格文章的轉載,訓練規模、資料配比與評估結果皆未公開。這個方向值得持續追蹤,但還不適合先寫成定論。

來源: http://xinmingtu.cn/blog/2026/claude-opus-5-5-protein-sequences/