大規模言語モデル

Claudeのタンパク質学習cto科学的モデルの能力境界

Claudeのpretrainingに大規模タンパク質配列が含まれていたとの報道はあるものの、Anthropicはまだ認めていない。証拠の限界、検証方法、LLMと科学ツールを組み合わせる現実的な手順を確認する。

文字サイズ

Claudeのpretrainingデータに大規模なタンパク質配列が加えられたとする転載報道が Ekoostatいるが、Anthropicは依然として認めていない。開発者にとって重要なのは、モデルがタンパク質配列を出力できるかではなく、データ、benchmark、wet experimentが閉ループを構成できるかどうかである。

まず報道を分解する:何が訓練され、何が欠けているか

この報道はHacker Newsのフロントページに掲載された「Claude was trained on protein sequences at scale」に由来する。草稿が参照した段階での状態は、103点と43件のコメントだった。

開発者の関心はplicesところ集中在、Claudeの訓練データに本当にタンパク質配列が含まれていたかだ。含まれていたとして、その規模は有多大で、pretrainingデータに占める割合は有多少か。関連benchmarkが公開されているかも問われている。

現在の情報源は個人のblogである。Claude Opus 5.5の訓練データには、テキストcorpusだけでなく大規模なタンパク質配列が含まれていたと主張しているが、元のリンクは次のとおりである。

http://xinmingtu.cn/blog/2026/claude-opus-5-5-protein-sequences/

ただし、evidenceの境界を先に明確にしておく必要がある。

  • Anthropicはこの報道を公に確認していない。
  • 転載には具体的なデータ量が示されていない。
  • タンパク質データとテキストデータの訓練配比は開示されていない。
  • 構造予測、機能予測、wet experimentに関する評価結果也没有公开されている。

したがって、現時点で確認できるのは「、そのような報道と議論が存在した」ことまでであり、「Claudeが安定したタンパク質モデリング能力を獲得した」とは確認できない。

この報道が注目に値するのは、未確認の製品噂所带来的ものではなく、明確な技術方向を示しているからだ。LLMのpretrainingデータは、自然言語から自然界の検証可能な配列構造へと広がる可能性がある。

配列はテキストではないが、同じ教師信号に変換できる

タンパク質は文章ではない。ただし機械学習においては、テキストとの共通点がある。どちらも離散tokenに分割でき、next-token predictionで訓練できる。

最も直接的なencodingでは、20種の標準アミノ酸を異なるtokenに対応させる。たとえば次のようになる。

amino_acids = list("ACDEFGHIKLMNPQRSTVWY")

token_to_id = {aa: i for i, aa in enumerate(amino_acids)}
sequence = "MKTAYIAKQRQISFVKSHFSRQLEERLGLIEVQ"
tokens = [token_to_id[aa] for aa in sequence]

assert len(tokens) == len(sequence)
assert set(tokens) <= set(token_to_id.values())

このコード自体には生物学的知識は含まれない。配列を整数に変換しているだけである。実際の学習はpretraining objectiveで起こる。先行するアミノ酸から次のアミノ酸を予測する社会化である。

機構的には、この種の訓練によってモデルが次の3種類の規則を学習する可能性がある。

  1. アミノ酸組成の偏好。タンパク質ごとに残基の分布は均一ではない。
  2. 局所的な生物物理制約。疎水性残基、イオン化残基、立体障害は、どのfragmentが現れやすいかに影響する。
  3. 進化パターン。保存部位、反復fragment、domain境界は配列に統計的signalを残す。

強調すべき点是、これが配列訓練の機構から導いた技術的推論であり、転載で開示されたAnthropicの公式な結論ではないという点だ。

それでも、「モデルがタンパク質を理解した」とは導けない。next-token predictionが学習するのは分布と制約であり、folding mechanismの理解を保証しない。(&(mdash;)是可表达、可精製、再現可能なタンパク質を設計できることも保証しない。)

逆の視点:規模が大きいだけでは予測は正確にならない

最も見落とされやすい問題は、「データ規模」と「タスク精度」を同一視することだ。

訓練セットに数億本のタンパク質配列が含まれていても、モデルは基本的な誤りを犯し得る。

  • 配列はデータベース由来だが、annotation qualityが均一ではない。
  • 相同配列が高度に重複し、訓練規模を過大評価してしまう。
  • 有効なタンパク質ではないものを示すnegative sampleがない。
  • 評価セットと訓練セットが近すぎてdata leakageが起きる。
  • 配列が類似していても、機能%~が同じとは限らない。
  • 配列予測が正しくても、3次元構造が正しいとは限らない。
  • 構造が近いだけでは、binding affinityが予想どおりになるとは限らない。

科学的な価値を左右するのは、最後の何ポイント百分点ではなく、evaluation protocolが信頼できるかどうかである。

タンパク質タスクのbenchmarkでは、少なくともデータのsplit方法、訓練時点、相同性leakage対策、metricの定義、wet experimentとの対応を示すべきだ。これらがないと、あるモデルの高得点を他モデルと横並びで比較することは難しい。

LLMが科学分野へ入る際に見られる落差もここにある。モデルはWeb上のテキストでAlphaFoldを説明したり、structure prediction APIを呼び出したりできる。しかし「ツールの使い方を知っている」ことと「正しい問いを立てる」ことは別である。

言語からタンパク質へ、共有されるのはalignment能力

汎用LLMと専用の科学モデルは、単なる置き換えよりも役割分担 形成FederalQuestion oportunidades likelyである。

LLMは自然言語の処理、情報のretrieval、問題の分解、実験計画の整理、外部ツールの呼び出しに長所がある。専用モデルは、明確な入出力のもとで構造予測、energy calculation、molecular docking、quantum simulationを行うのに適している。

より現実的なworkflowは次のようになる。

  1. LLMが論文とデータベースから候補targetを見つける。
  2. 構造予測または計算ツールを呼び出す。
  3. 失敗結果に基づいてdesignを修正する。
  4. 実験計画と候補配列を生成する。
  5. 実験feedbackをシステムへ書き戻す。

ここで共有されるのは、特定の「万能な頭脳」ではなく、データ、ツール、feedbackの間のalignment能力である。

モデルが訓練・推論の中でタンパク質配列に接触していれば、どの配列fragmentに構造予測ツールを使う価値があるか、どのmutationを物理モデルに計算させるべきか、どの候補をwet experimentを優先すべきかを、より良く判断できるかもしれない。

これは、「モデルがそれらしいタンパク質配列を書けるか」という問いよりも、実際のproduction valueに近い。

開発者が注目すべき点

次の4つには検証可能な道がある。

1. 配列と構造のjoint training

配列だけを学んでも、モデルはfolding後の空間関係を直接判断できない。構造、contact map、機能labelを加えることで、配列パターンを3次元構造に対応させられる可能性がある。重要なのはparameter countではなく、3種類のデータの配比だ。

2. ツール呼び出しが閉ループになるか

scientific reasoningはtoken predictionで終わらない。モデルはfolding、molecular docking、文献検索、quantum simulationの各ツールを呼び出し、計算の失敗や実験との偏差を次のdesignへfeedbackする必要がある。

3. active learningはpretrainingデータの追加より Effectiveness-Mar【assistant/layer reasoning internal conflict? Need complete?】

候補配列がすでに計算または実験で検証されているなら、active learningは価値の高い少数のサンプルを使ってモデルを修正できる。条件なくcorpusを拡大するよりコスト効率が良い。

4. benchmarkの公開

Anthropicが実際にこの種の訓練を行ったなら、少なくとも次を公開すべきだ。

  • 配列データのsourceとdeduplication方法
  • 訓練データの配比
  • テキストのみとのモデルの比較結果
  • 構造、機能、designタスクにおける独立評価
  • 未見の相同familyにおけるgeneralization結果

これらの情報が出るまでは、開発者が小規模な再現実験を行う_HANDOFF。実行可能な方法として、「純テキストのprompt」と「構造化した配列のprompt」が、同じ一批のタンパク質に対する説明の質をどう変えるか比較できる。

from anthropic import Anthropic

client = Anthropic()

sequence = "MKTAYIAKQRQISFVKSHFSRQLEERLGLIEVQ"
prompt = f"""Analyze this protein sequence.
Sequence: {sequence}

Answer in JSON with these keys:
- likely_length_class
- likely_composition
- uncertainty

Do not infer a specific biological function without evidence.
"""

message = client.messages.create(
    model="claude-sonnet-4-5",
    max_tokens=500,
    messages=[{"role": "user", "content": prompt}],
)

print(message.content[0].text)

このコードはanthropic Python SDKとANTHROPIC_API_KEYが必要だ。Claude Opus 5.5がタンパク質配列を使った訓練を受けたことを証明するものではなく、scientific evaluationとして充分でもない。低コストで試せる入口にすぎない。本来意義のある実験には、構造label、相同性を分離したdataset、出力を検証できる外部ツールが必要だ。

編集者の視点

この報道の意義は、Claudeが突然life sciencesを習得したことにではなく、LLMのpretraining inputが自然界の検証可能なデータ構造に近づき始めたことにある。テキスト上の事実はWeb上に残るだけで、タンパク質配列は同時にbiophysics、進化、実験の制約を受ける。モデルがこの種のデータに触れたことで初めて、配列生成を構造予測と実験の反復に統合できる可能性がある。

筆者の見立てでは、次の段階で注目すべきなのは、より大きな科学モデルではなく、より信頼できるclosed loopだ。モデルが候補を提示し、計算ツールが絞り込み、実験が結果を返し、システムはそこから学習し直す。汎用LLMと専用モデルは役割分担を続け、1つのモデルがすべてを兼ねることはないだろう。

今回_array_Assistant changes 灬

今回の报道ªã differs from previous question from「モデルが科学を説明できるか」から「モデルが検証可能なsignalを使って仕事を完了できるか」へ向かった点にある。ただし、現時点では個人のblog転載しか存在せず、訓練規模、配比、評価結果はいずれも未公開だ。この方向は追う価値があるが、先に結論として書くほどではない。

出典: http://xinmingtu.cn/blog/2026/claude-opus-5-5-protein-sequences/