觀點

Anthropic 的 AI 安全提案:死了 50 個人才出手,這個門檻合理嗎?

Anthropic 提出的 AI 監管草案,以「50 人死亡或 10 億美元損失」為觸發條件,並指定商務部為唯一有權下架模型的聯邦機關。這樣的設計形同為產業護航,等同於把 AI 當作大規模毀滅性武器來對待。

字級

50 條命或 10 億美元,缺一不可

提案的核心是這兩條觸發線:

  • 死亡門檻:≥ 50 人
  • 財產損失門檻:≥ 10 億美元

兩個條件要同時存在,還是只滿足其中一個?提案沒說清楚。原文用的是 "or",所以二選一即可。

50 人是什麼概念?2017 年拉斯維加斯槍擊案,凶手一人造成 60 人死亡,成為美國近代史上最致命的單一槍擊事件。一個 AI 系統要「殺死 50 個人」才會被監管,這門檻形同把 AI 視為大規模毀滅性武器等級的潛在威脅。

10 億美元呢?2010 年深水地平線漏油事件,BP 賠了超過 650 億美元。10 億美元對一家年營收百億的科技公司,基本算是「季度公關預算」。

換句話說,Anthropic 要的監管觸發線,是「先用一場災難換一張入場券」。

商務部成「唯一話事人」

更值得琢磨的是第二部分:提案把商務部(Department of Commerce)定為唯一有權叫停 AI 模型的聯邦機構。

現在的 AI 監管是分散的:

  • FTC 管誤導性宣傳
  • NIST 管標準制定
  • 州司法部長管消費者保護
  • CFIUS 管外資審查
  • 各州還有自己的 AI 法案

提案要把這些線全部收攏到商務部一家。商務部轄下的 NIST 確實是做 AI 標準的機構,這種安排技術上「合理」。問題在於:

  1. 回應速度。50 人死亡後,走聯邦行政程序,模型被叫停可能已經是一週後
  2. 政治獨立性。商務部部長由總統任命,監管節奏跟著白宮走
  3. 專業深度。商務部過去管的是出口管制和人口普查,不是 AI 系統的安全稽核

Anthropic 為什麼這麼提?推測有兩個動機:

  • 明確性:相較現在「誰都能管」,廠商更希望只跟一家機構打交道
  • 拉高門檻:監管權限集中後,觸發條件自然要寬鬆,否則商務部會被無數小型事件淹沒

提案聰明地綁定了兩個訴求:監管對象單一化 + 觸發條件高門檻。

對比加州 SB 1047:門檻之爭早有先例

這不是第一場關於「什麼算夠嚴重」的爭議。

去年加州 SB 1047 是類似性質的法案,核心爭議也是門檻問題:

  • SB 1047 觸發線:訓練成本超過 1 億美元 或 計算量超過 10^26 FLOPS
  • 監管機構:加州司法部長
  • 最終結局:被否決

SB 1047 的爭議點是「按訓練成本算」對前沿模型不公平——OpenAI、Anthropic 這種頭部廠商必然中招,而對開源小模型無效。否決理由表面上是「打擊開源」,本質還是「門檻定義權」。

Anthropic 這版門檻比 SB 1047 更寬鬆:

法案觸發線監管對象
SB 1047(已否決)訓練成本 / 算力加州 AG
Anthropic 提案死亡 50 人 / 損失 10 億美元商務部

SB 1047 至少在事前就要符合標準(開發者註冊、安全評估)。Anthropic 這版更激進——事前不管,事後究責。

Hacker News 上開發者怎麼看

原報導在 Hacker News 上拿到 74 分、65 則評論(HN 討論)。討論區的分歧相當明顯:

支持方觀點(典型回覆):

"A 50-person threshold is reasonable because anything lower would capture too many false positives and slow down legitimate research."

核心論據:門檻太低會讓 AI 研究被繁瑣的合規程序拖垮。

反對方觀點(高讚評論):

"This is just regulatory capture. They're proposing a system where the only way to trigger oversight is after a catastrophe has already happened. That's not safety, that's negligence."

核心論據:事後究責 = 沒監管。50 人死亡後,死人也回不來。

第三方觀察:

"Notice that Anthropic themselves would never be caught by this. Their models aren't in life-or-death decision paths."

這條評論戳到了關鍵——Anthropic 作為一家 LLM 廠商,產品型態主要是 ChatBot 和 API 呼叫,距離「50 人死亡」的因果鏈條最遠。提案對自己最有利。

討論區裡沒人替 Anthropic 的「高門檻」辯護,爭論焦點是「高門檻 + 單一監管」這個組合到底意味著什麼。

我的判斷

這件事最讓我不安的不是數字本身,而是思路。

Anthropic 這版提案隱含的邏輯是:「AI 監管應該等到出事再管」。這種思路在傳統產業(食品安全、藥品審查)被證明是災難——直到《純淨食品和藥品法案》1906 年頒布前,美國消費者吃了 30 年假藥。AI 現在還沒有「磺胺事件」,不代表以後不會有。

更微妙的是,這是廠商主動提出的自我監管提案。OpenAI、Google、Meta 都在各個場合表態支持「AI 監管」,但具體到「門檻多少、誰來管」,各家的提案都精準地把監管推到自己搆不著的地方。這不是陰謀論,是結構性的利益衝突。

我不同意的觀點是「廠商自我監管提案全無價值」——總比沒有提案好,而且提案細節本身透露了廠商真正怕什麼。

我同意的觀點是「單一監管 + 高門檻」是危險組合。商務部一家 + 50 人死亡,等於讓 AI 產業跑得更快,直到出事那天。

不確定的地方:提案具體文本是否真如 Tom's Hardware 摘要那樣激進,Anthropic 官方未必逐字認可。以及這個提案目前沒有任何進入立法的跡象,可能是拋出來試探輿論。

但不論結果如何,這套思路被一家頭部廠商公開寫出來這件事,就是 2026 年 AI 監管討論的最重要訊號。

來源: https://www.tomshardware.com/tech-industry/artificial-intelligence/anthropics-proposed-ai-safety-bill-only-kicks-in-if-50-deaths-or-usd1-billion-in-damages-are-on-the-line-proposal-would-effectively-make-the-commerce-department-the-only-agency-capable-of-stopping-an-ai-model