實戰

Anthropic 9 月威脅報告解析:AI 濫用偵測為何始終慢一步

Anthropic 9 月威脅報告揭露了幾起 Claude 濫用案例與封鎖機制,但真正的問題藏在報告之外——被封鎖的帳號平均 18 小時內就能換帳號捲土重來,偵測速度根本追不上濫用節奏。

字級

Anthropic 每個月都會發布威脅情報報告,這期談的是如何揪出濫用 Claude 的人。比起報告本身,報告避而不談的部分更值得深究。

報告原文在 anthropic.com/threat-intelligence-report-september-2026。比起技術細節,這份報告更像案例彙整——詐騙腳本生成、程式碼注入輔助、自動化攻擊編排,Anthropic 列舉了幾個真實被識別並封禁的情境。

HN 上這則貼文有 35 個讚、19 則留言,熱度比平時 Anthropic 的文章高出不少。但點進去看留言會發現,大家討論的不是報告內容,而是報告刻意迴避的幾個問題。

以下分四個面向來談:報告內容、偵測手段的實況、為何封禁無效、以及國內可以參考的做法。

9 月報告講了什麼:不是技術細節,是案例集

Anthropic 這份報告屬於定期安全揭露系列,URL 裡的 /threat-intelligence-report- 前綴代表這是常態性發布,並非一次性事件。

9 月這期的核心是幾個濫用情境的還原:

  • 詐騙腳本生成:用 Claude 生成針對特定平臺的話術,典型組合是「感情詐騙 + 加密貨幣」。
  • 程式碼注入輔助:把惡意程式碼片段包裝成「安全研究」問題丟給模型,讓模型吐出可用的 payload。
  • 自動化攻擊編排:透過 Claude API 批次生成釣魚郵件、自動化社交工程攻擊。

報告花了相當篇幅說明 Anthropic 如何識別、如何封禁。但沒說的是:這些濫用者被封之後跑去哪了。

偵測手段沒想像中聰明,九成還是規則比對

仔細看報告細節和 HN 留言,會發現一個反直覺的事實:所謂「AI 濫用偵測」,核心仍是行為指紋加上模式比對。LLM 本身在判別濫用這件事上,既貴又不準。

Anthropic 的方案是混合架構,大致分三層:

  1. 行為指紋:IP 段、裝置指紋、請求時間分佈、API key 使用模式。
  2. 模式比對:關鍵字、正則表達式、prompt 範本黑名單。
  3. LLM 二次判別:對可疑樣本用 Claude 來判別,觸發閾值才會走到這層。

第三層是成本最貴的部分。Anthropic 自己坦承,若純靠 LLM 判別每個請求,成本根本撐不住。實際生產環境中,大約九成的濫用請求在前兩層就被擋下,LLM 只處理剩下約一成的高風險樣本。

這就是為什麼偵測會有延遲——你得先累積夠多的行為序列,才能判定「這個使用者不正常」。單次請求的判別,模型廠商幾乎做不到。

封帳號沒用,違規者 24 小時內換號捲土重來

HN 留言區反覆出現一個論點:被 ban 的帳號平均 18 小時內就會用新帳號繞過管制。

我在 Anthropic 9 月報告原文裡沒找到這個數字的明確出處(可能藏在更早某一期的報告中)。但從留言區共識以及濫用者社群的公開討論來看,這個量級是合理的。濫用者本來就是「換號工具 + 自動化腳本」的標準配備,封單一帳號對他們的影響,大概就像你玩遊戲斷線重連一樣。

這才是報告沒明說的核心問題:偵測速度跑不贏濫用速度。

Anthropic 的偵測鏈路是:行為採集 → 模式比對 → 人工覆核 → 封禁。從觸發到封禁完成,通常要走好幾個小時。而濫用者從被封到換號重來,只要十幾分鐘。

更棘手的是,濫用者會專門研究各家廠商的偵測規則,網路上甚至有公開的「如何避免被 Claude 封號」的教學文。攻防完全不對等。

國內同行可以學什麼:別只盯著 API 限流

國內大模型廠商的安全機制,普遍還停留在「限速 + 關鍵字」的階段。請求太頻繁?限速。prompt 裡有敏感詞?拒答。聽起來合理,但實際效果很差:

  • 限速對真人沒用,只對腳本有效。
  • 關鍵字黑名單撐不過三天就被繞過,base64 編碼、同義詞替換、拼音首字母全是現成手法。

Anthropic 值得借鏡的是行為序列分析——不是看單次請求,而是看一段時間內的呼叫模式。例如:

# 偽程式碼:行為序列偵測
def is_abnormal_behavior(user_id, time_window=3600):
    requests = get_recent_requests(user_id, time_window)
    
    signals = {
        'request_burst': len(requests) > 100,  # 1 小時超過 100 次
        'time_pattern': is_24_7_pattern(requests),  # 24 小時均勻分佈
        'prompt_similarity': avg_cosine_sim(requests) > 0.85,  # prompt 高度相似
        'topic_drift': has_topic_drift(requests),  # 話題漂移
    }
    
    if sum(signals.values()) >= 2:
        return flag_for_review(user_id)
    return allow(user_id)

這段程式碼邏輯並不複雜,核心是把單次請求轉換成時間序列。國內廠商該補的課,不是 LLM 判別,而是資料工程——怎麼存、怎麼查、怎麼即時聚合使用者行為。

編輯觀點:報告的意義不在內容,在於姿態

把這份報告放回 Anthropic 的整體策略來看,本質是向監管遞交投名狀。

2026 年美國 AI 監管壓力明顯加大,Anthropic 主動公開威脅情報,姿態是「我比競爭對手更負責任」。報告裡欠缺的技術細節,其實不重要。重要的是把「Anthropic 在認真做安全」這個訊號傳遞給立法者和大眾。

真想抓濫用,光靠模型廠商遠遠不夠。需要聯動的是:

  • 雲端廠商:掌握 IP 真實歸屬。
  • CDN:能識別自動化流量特徵。
  • 支付通道:能凍結違規訂閱。
  • 手機號 / 電子郵件服務商:能識別批次註冊。

這些資料模型廠商都拿不到。但沒人在出面協調。歐盟的 AI Act 還在拉扯,美國國會吵了兩年沒通過法案,中國的備案制管的是模型本身,不管濫用。

所以這份報告的真正價值,是替一件沒人牽頭的事畫了一張「有人在做」的圖。至於能不能解決濫用問題,我覺得 24 小時換號這個數據點已經給出答案了——現在不行,三年內大概也不行。

唯一可能改變局面的,是支付通道和雲端廠商被強制要求配合。但這件事需要監管層面的強約束,而我們距離那個臨界點還很遠。

來源: https://www.anthropic.com/threat-intelligence-report-september-2026