Anthropicが最近公表したAI安全立法の提案は、ややユニークなトリガー基準を設けている。AIが50人以上の死亡または10億ドル以上の損害を引き起こさない限り、連邦規制は動かないという。
これが何を意味するのか、数字から見ていく。
50人の命か10億ドル、どちらも必須ではない
提案の中核はこの二つのトリガーだ。
- 死亡基準:50人以上
- 財産損失基準:10億ドル以上
二つの条件はどちらも満たす必要があるのか、どちらか一方でいいのか。原案では「or」と明記されており、いずれか一つで発動する。
50人という数字をどう捉えるか。2017年のラスベガス銃乱射事件では、犯人一人で60人が死亡し、米国近代史上の単一事件として最悪の犠牲者を出した。AIシステムが「50人を殺す」段階でようやく規制対象となるというのは、AIを大量破壊兵器の候補として扱うのと同じ発想だ。
10億ドルはどうか。2010年のディープウォーター・ホライズン原油流出事故では、BPが650億ドル超を支払った。10億ドルは年商100億ドル規模のテック企業にとって「四半期公关予算」程度の金額にすぎない。
つまりAnthropicが求めるトリガー基準は、「一度の大惨事を経て初めて入場券が発行される」仕組みだ。
商務省が「唯一の話せる相手」になる
さらに注目すべきは第二のポイントだ。提案は商務省(Department of Commerce)を、AIモデルを停止できる唯一の連邦機関と定めている。
現在のAI規制は分散している。
- FTCが誤認誘導的宣伝を所管
- NISTが標準策定を所管
- 州司法長官が消費者保護を所管
- CFIUSが外資審査を所管
- 各州が独自のAI法を運用
提案はこれらの枠組みをすべて商務省に集約する。商務省傘下のNISTは確かにAI標準を扱う機関であり、その意味では技術的に「筋が通る」配置に見える。問題は次だ。
- 対応スピード。50人が死亡した後、連邦行政手続きを経て実際にモデルが停止される頃には1週間が経過している可能性がある。
- 政治的中立性。商務長官は大統領が任命するため、規制のテンポはホワイトハウスの意向に左右される。
- 専門性。商務省はこれまで輸出管理や国勢調査を担当してきた機関であり、AIシステムの安全監査の経験は浅い。
Anthropicがなぜこの構成を提案するのか。考えられる動機は二つだ。
- 明確性:現在のように「誰でも規制できる」状態よりも、厂商は单一の機関とだけやり取りしたい。
- ハードルの引き上げ:規制権限を集中させる以上、トリガー条件を緩くしなければ商務省がささいな事案で埋まってしまう。
提案は「規制対象の单一化」と「トリガー条件の緩和」という二つの诉求を巧みに結びつけている。
カリフォルニア州SB 1047との比較──基準論争の前例
「何が十分に深刻か」を巡る争いはこれが初めてではない。
昨年のカリフォルニア州SB 1047は同種の法案で、論点もやはりトリガー基準だった。
- SB 1047のトリガー:訓練コスト1億ドル超、または計算量10^26 FLOPS超
- 規制機関:カリフォルニア州司法長官
- 最終結果:否决
SB 1047の争点は「訓練コスト基準」がフロンティアモデルに対して不利に働くこと──OpenAIやAnthropicのようなトップ厂商は必ず該当し、オープンソースの小規模モデルには効かない、という点だった。否决の表向きの理由は「オープンソースへの打撃」だが、本質は「基準の定義権」を巡る争いだった。
Anthropic版の基準はSB 1047よりさらに緩い。
| 法案 | トリガー | 規制対象 |
|---|---|---|
| SB 1047(否决済み) | 訓練コスト / 計算量 | カリフォルニア州司法長官 |
| Anthropic提案 | 50人死亡 / 10億ドル損失 | 商務省 |
SB 1047は少なくとも事前に基準適合を求めていた(開発者登録、安全評価)。Anthropic版はより過激で、事前規制なし、事後責任のみという構成だ。
Hacker Newsの開発者の反応
元記事はHacker Newsで74点、65コメントを獲得している(HN議論)。議論は賛否が分かれる。
支持派の意見(代表的な返信):
"A 50-person threshold is reasonable because anything lower would capture too many false positives and slow down legitimate research."
核心の論拠:基準が低すぎるとAI研究が煩雑なコンプライアンスに潰される。
反対派の意見(高評価コメント):
"This is just regulatory capture. They're proposing a system where the only way to trigger oversight is after a catastrophe has already happened. That's not safety, that's negligence."
核心の論拠:事後責任は規制ではない。50人が死んだ後では、死者も戻らない。
第三者の観察:
"Notice that Anthropic themselves would never be caught by this. Their models aren't in life-or-death decision paths."
このコメントが核心を突いている。AnthropicはLLM厂商として、主な製品形態はチャットボットとAPI呼び出しであり、「50人死亡」の因果連鎖から最も遠い立場にいる。つまりこの提案は自社にとって最も有利な構成になっている。
議論区でAnthropicの「高すぎる基準」を擁護する声はなく、論点となっているのは「高基準 + 単一規制」という組み合わせが何を意味するかだ。
筆者の判断
この件で最も不安なのは、数字そのものではなく発想だ。
Anthropic版提案が暗黙に前提とするロジックは、「AI規制は事故が起きてから導入すべき」というものだ。この発想は従来の業界——食品安全、薬品承認——では破滅をもたらしてきた。1906年に「純粋食品及び医薬品法」が成立するまで、アメリカの消費者は30年間偽薬を飲み続けていた。AIにはまだ「スルファニルアミド事件」が起きていないが、それは将来的にも起きないことを意味しない。
さらに微妙な点として、これは厂商自らが提案した自主規制案であることだ。OpenAI、Google、Metaはあらゆる場面で「AI規制支持」を表明しているが、「基準をいくらにするか、誰が規制するか」という具体論になると、各社の提案はどれも規制を自社に届かない場所へ押しやっている。陰謀論ではなく、これは構造的な利益衝突だ。
同意できない見解は「厂商の自主規制提案には何の価値もない」というものだ──何もないよりはましであり、提案の詳細そのものが厂商が本当に恐れているものを明らかにしている。
同意する見解は「単一規制 + 高基準」は危険な組み合わせだというものだ。商務省一本 + 50人死亡基準は、AI業界が事故当日まで全力で走り続けることを許容する。
不確定な要素として、提案の具体的な本文が本当にTom's Hardwareの要約通りであるかは確認できていない。Anthropic公式が逐語的に追認しているわけでもない。また、この提案は現時点で立法化の兆候は一切ない——世論を測るために投げ出された可能性もある。
しかし結果はどうあれ、この発想を業界のトップ厂商が公に書き残したということ自体が、2026年のAI規制議論における最も重要なシグナルである。