先拆解傳聞:模型訓練了什麼,又缺少什麼證據
這則消息來自 Hacker News 首頁文章《Claude was trained on protein sequences at scale》。依草稿引用的頁面狀態,當時有 103 分及 43 則留言。
開發者的問題相當集中:Claude 的訓練資料是否真的加入蛋白質序列?如果有,規模多大?占預訓練資料的比例為何?模型是否公開相關 benchmark?
目前來源是一篇個人部落格文章。文章宣稱 Claude Opus 5.5 的訓練資料包含大規模蛋白質序列,而非只有文字語料。原始連結:
http://xinmingtu.cn/blog/2026/claude-opus-5-5-protein-sequences/
但必須先劃清楚證據邊界:
- Anthropic 尚未公開證實這項消息。
- 轉載內容沒有提供具體資料量。
- 蛋白質資料與文字資料的訓練比例並未揭露。
- 文章沒有提供結構預測、功能預測或濕實驗的評估結果。
因此,現階段能確認的是「出現了這類報導與討論」,不能斷定「Claude 已具備穩定的蛋白質建模能力」。
這則消息值得關注,不是因為某項未經證實的產品傳聞,而是因為它指向一個具體的技術方向:LLM 的預訓練資料,可能正從自然語言延伸至自然界中可檢驗的序列結構。
序列不是文字,卻能轉化為相同的監督訊號
蛋白質不是文字,但在機器學習中,它與文字有一項共同點:兩者都能切分為離散 token,並以 next-token prediction 進行訓練。
最直接的編碼方式,是把 20 種標準胺基酸對應到不同 token。例如:
amino_acids = list("ACDEFGHIKLMNPQRSTVWY")
token_to_id = {aa: i for i, aa in enumerate(amino_acids)}
sequence = "MKTAYIAKQRQISFVKSHFSRQLEERLGLIEVQ"
tokens = [token_to_id[aa] for aa in sequence]
assert len(tokens) == len(sequence)
assert set(tokens) <= set(token_to_id.values())
這段程式碼本身沒有生物學知識,只是將序列轉換為整數。真正的學習發生在預訓練目標中:根據前面的胺基酸,預測下一個胺基酸。
從機制來看,這類訓練可能讓模型學到三類規律:
- 胺基酸組成偏好。不同蛋白質的殘基分布並不均勻。
- 局部生物物理限制。疏水殘基、帶電殘基與空間位阻,會影響哪些片段較可能出現。
- 演化模式。保守位點、重複片段與結構域邊界,都會在序列中留下統計訊號。
需要強調的是,上述推論來自對序列訓練機制的技術分析,並非轉載文章所揭露的 Anthropic 官方結論。
不過,這仍不足以推出「模型已經理解蛋白質」。next-token prediction 學到的是分布與限制,不代表模型理解蛋白質的折疊機制,更不保證能設計出可表現、可純化且可重現的蛋白質。
反直覺觀察:資料規模大,不等於預測準確
最容易遭人忽略的問題,是把「資料規模」與「任務準確率」畫上等號。
即使訓練集包含數億條蛋白質序列,模型仍可能犯下幾種基礎錯誤:
- 序列來自資料庫,但標註品質不一致。
- 同源序列高度重複,使訓練規模遭到高估。
- 只有正向序列,缺少「什麼不是有效蛋白質」的負向樣本。
- 評估集與訓練集過於接近,產生資料洩漏。
- 序列相似,不代表功能相同。
- 序列預測正確,不代表三維結構正確。
- 結構接近,不代表結合親和力符合預期。
真正決定科學價值的,往往不是最後幾個百分點,而是評估protocol是否可信。
對蛋白質任務而言,一套合格的 benchmark 至少要說明資料切分方式、訓練時間點、同源序列洩漏控制、指標定義,以及評估結果是否與濕實驗相符。缺少這些資訊,單一模型的高分很難進行橫向比較。
這也是 LLM 進入科學領域時常見的落差:模型可以根據網頁文字解釋 AlphaFold,也能呼叫結構預測 API;但「知道如何使用工具」與「提出正確問題」仍是兩回事。
從語言到蛋白質,真正共享的是對齊能力
通用 LLM 與專用科學模型更可能形成分工,而不是單純互相取代。
LLM 擅長處理自然語言、檢索資料、拆解問題、整理實驗方案,也擅長呼叫外部工具。專用模型則更擅長在明確的輸入與輸出條件下執行結構預測、能量計算、分子對接及量化模擬。
更符合實際需求的工作流程是:
- LLM 從論文與資料庫中找出候選靶點。
- 呼叫結構預測或量化工具。
- 依失敗結果修改設計。
- 產生實驗方案與候選序列。
- 將實驗回饋寫回系統。
此處真正共享的並非某個「萬能大腦」,而是資料、工具與回饋之間的對齊能力。
若模型在訓練與推理期間接觸過蛋白質序列,或許便能更準確地判斷哪些序列片段值得呼叫結構預測工具、哪些突變應交由物理模型計算,以及哪些候選應優先送入濕實驗。
這比「模型會不會寫出一段看起來像蛋白質的序列」更接近實際的生產價值。
開發者接下來該關注什麼
接下來有四個可供驗證的方向。
第一,序列與結構的聯合訓練。
只學習序列,模型便無法直接判斷折疊後的空間關係。加入結構、接觸圖與功能標籤後,模型才可能把序列模式映射至三維結構。真正的關鍵不是參數量,而是三類資料如何配比。
第二,工具呼叫能否形成閉環。
科學推理不能停在 token prediction。模型需要呼叫 Fold、分子對接、文獻檢索與量化模擬工具,並將運算失敗或實驗偏差回饋至下一輪設計。
第三,主動學習是否優於持續擴充預訓練資料。
如果候選序列已經過運算或實驗驗證,主動學習可以透過少量高價值樣本修正模型,成本也比無條件擴大語料庫更低。
第四,公開 benchmark。
若 Anthropic 確實進行過這類訓練,至少應揭露:
- 序列資料來源與去重方法。
- 各類訓練資料的比例。
- 與純文字模型的對照結果。
- 結構、功能與設計任務的獨立評估。
- 在未見同源家族上的泛化結果。
在這些資訊公布前,開發者可以先進行小規模重現。一種可執行的做法,是比較「純文字 prompt」與「結構化序列 prompt」對同一批蛋白質的解釋品質:
from anthropic import Anthropic
client = Anthropic()
sequence = "MKTAYIAKQRQISFVKSHFSRQLEERLGLIEVQ"
prompt = f"""Analyze this protein sequence.
Sequence: {sequence}
Answer in JSON with these keys:
- likely_length_class
- likely_composition
- uncertainty
Do not infer a specific biological function without evidence.
"""
message = client.messages.create(
model="claude-sonnet-4-5",
max_tokens=500,
messages=[{"role": "user", "content": prompt}],
)
print(message.content[0].text)
程式碼依賴 anthropic Python SDK 與 ANTHROPIC_API_KEY。它無法證明 Claude Opus 5.5 曾接受蛋白質序列訓練,也不足以構成科學評測;它只是提供一條低成本實驗入口。真正有價值的實驗,還需要結構標籤、經同源序列隔離的資料集,以及能驗證輸出的外部工具。
編輯觀察
這則消息的重要性,不在於 Claude 突然掌握了生命科學,而是 LLM 的預訓練輸入可能開始接近自然界中可檢驗的資料結構。文字事實可以停留在網頁上,蛋白質序列卻同時受到生物物理、演化與實驗的限制。模型接觸這類資料後,才可能把序列生成接入結構預測與實驗迭代。
下一階段更值得关注的,不是打造更大的科學模型,而是建立更可靠的閉環:由模型提出候選、運算工具進行篩選、實驗回傳結果,再由系統持續學習。通用 LLM 與專用模型會繼續分工,不會由單一模型包辦所有工作。
這次與過去不同的地方在於,問題已從「模型能否解釋科學」轉向「模型能否利用可驗證的訊號完成工作」。不過,目前只有個人部落格文章的轉載,訓練規模、資料配比與評估結果皆未公開。這個方向值得持續追蹤,但還不適合先寫成定論。