50 條命或 10 億美元,缺一不可
提案的核心是這兩條觸發線:
- 死亡門檻:≥ 50 人
- 財產損失門檻:≥ 10 億美元
兩個條件要同時存在,還是只滿足其中一個?提案沒說清楚。原文用的是 "or",所以二選一即可。
50 人是什麼概念?2017 年拉斯維加斯槍擊案,凶手一人造成 60 人死亡,成為美國近代史上最致命的單一槍擊事件。一個 AI 系統要「殺死 50 個人」才會被監管,這門檻形同把 AI 視為大規模毀滅性武器等級的潛在威脅。
10 億美元呢?2010 年深水地平線漏油事件,BP 賠了超過 650 億美元。10 億美元對一家年營收百億的科技公司,基本算是「季度公關預算」。
換句話說,Anthropic 要的監管觸發線,是「先用一場災難換一張入場券」。
商務部成「唯一話事人」
更值得琢磨的是第二部分:提案把商務部(Department of Commerce)定為唯一有權叫停 AI 模型的聯邦機構。
現在的 AI 監管是分散的:
- FTC 管誤導性宣傳
- NIST 管標準制定
- 州司法部長管消費者保護
- CFIUS 管外資審查
- 各州還有自己的 AI 法案
提案要把這些線全部收攏到商務部一家。商務部轄下的 NIST 確實是做 AI 標準的機構,這種安排技術上「合理」。問題在於:
- 回應速度。50 人死亡後,走聯邦行政程序,模型被叫停可能已經是一週後
- 政治獨立性。商務部部長由總統任命,監管節奏跟著白宮走
- 專業深度。商務部過去管的是出口管制和人口普查,不是 AI 系統的安全稽核
Anthropic 為什麼這麼提?推測有兩個動機:
- 明確性:相較現在「誰都能管」,廠商更希望只跟一家機構打交道
- 拉高門檻:監管權限集中後,觸發條件自然要寬鬆,否則商務部會被無數小型事件淹沒
提案聰明地綁定了兩個訴求:監管對象單一化 + 觸發條件高門檻。
對比加州 SB 1047:門檻之爭早有先例
這不是第一場關於「什麼算夠嚴重」的爭議。
去年加州 SB 1047 是類似性質的法案,核心爭議也是門檻問題:
- SB 1047 觸發線:訓練成本超過 1 億美元 或 計算量超過 10^26 FLOPS
- 監管機構:加州司法部長
- 最終結局:被否決
SB 1047 的爭議點是「按訓練成本算」對前沿模型不公平——OpenAI、Anthropic 這種頭部廠商必然中招,而對開源小模型無效。否決理由表面上是「打擊開源」,本質還是「門檻定義權」。
Anthropic 這版門檻比 SB 1047 更寬鬆:
| 法案 | 觸發線 | 監管對象 |
|---|---|---|
| SB 1047(已否決) | 訓練成本 / 算力 | 加州 AG |
| Anthropic 提案 | 死亡 50 人 / 損失 10 億美元 | 商務部 |
SB 1047 至少在事前就要符合標準(開發者註冊、安全評估)。Anthropic 這版更激進——事前不管,事後究責。
Hacker News 上開發者怎麼看
原報導在 Hacker News 上拿到 74 分、65 則評論(HN 討論)。討論區的分歧相當明顯:
支持方觀點(典型回覆):
"A 50-person threshold is reasonable because anything lower would capture too many false positives and slow down legitimate research."
核心論據:門檻太低會讓 AI 研究被繁瑣的合規程序拖垮。
反對方觀點(高讚評論):
"This is just regulatory capture. They're proposing a system where the only way to trigger oversight is after a catastrophe has already happened. That's not safety, that's negligence."
核心論據:事後究責 = 沒監管。50 人死亡後,死人也回不來。
第三方觀察:
"Notice that Anthropic themselves would never be caught by this. Their models aren't in life-or-death decision paths."
這條評論戳到了關鍵——Anthropic 作為一家 LLM 廠商,產品型態主要是 ChatBot 和 API 呼叫,距離「50 人死亡」的因果鏈條最遠。提案對自己最有利。
討論區裡沒人替 Anthropic 的「高門檻」辯護,爭論焦點是「高門檻 + 單一監管」這個組合到底意味著什麼。
我的判斷
這件事最讓我不安的不是數字本身,而是思路。
Anthropic 這版提案隱含的邏輯是:「AI 監管應該等到出事再管」。這種思路在傳統產業(食品安全、藥品審查)被證明是災難——直到《純淨食品和藥品法案》1906 年頒布前,美國消費者吃了 30 年假藥。AI 現在還沒有「磺胺事件」,不代表以後不會有。
更微妙的是,這是廠商主動提出的自我監管提案。OpenAI、Google、Meta 都在各個場合表態支持「AI 監管」,但具體到「門檻多少、誰來管」,各家的提案都精準地把監管推到自己搆不著的地方。這不是陰謀論,是結構性的利益衝突。
我不同意的觀點是「廠商自我監管提案全無價值」——總比沒有提案好,而且提案細節本身透露了廠商真正怕什麼。
我同意的觀點是「單一監管 + 高門檻」是危險組合。商務部一家 + 50 人死亡,等於讓 AI 產業跑得更快,直到出事那天。
不確定的地方:提案具體文本是否真如 Tom's Hardware 摘要那樣激進,Anthropic 官方未必逐字認可。以及這個提案目前沒有任何進入立法的跡象,可能是拋出來試探輿論。
但不論結果如何,這套思路被一家頭部廠商公開寫出來這件事,就是 2026 年 AI 監管討論的最重要訊號。