実践

Anthropic 9月脅威レポートが示す、AI不正利用検知の死角

Anthropicの9月脅威レポートはClaude悪用事例とBan手法を紹介する。だが本質的な課題は帳票外にある。Banされたアカウントは18時間以内に作り直され、検知パイプラインは不正利用のスピードに追いつけない。

文字サイズ

Anthropic 9月レポートが語るもの——技術詳細ではなく事例集

Anthropicは毎月脅威インテリジェンスレポートを公開しているが、今回は「Claudeを悪用する人間をどう捕まえるか」がテーマだ。レポート本体より、レポートが触れていない部分のほうがよほど面白い。

原文は anthropic.com/threat-intelligence-report-september-2026 に公開されている。技術的な細部というよりは事例集に近い構成で、詐欺スクリプトの生成、コードインジェクションの補助、自動化攻撃のオーケストレーションについて、Anthropicが実際に検知・Banしたケースが紹介されている。

このリンクは Hacker News で 35 upvote・19 コメントを集めており、Anthropic にしては珍しく伸びている。ただしコメント欄を読めば分かるとおり、議論はレポートそのものではなく、レポートが意図的に避けている論点に集まっている。

以下、4つのセクションに分けて整理する。レポートの中身、検知手法の実態、 Ban が効かない理由、国内勢が持ち帰れる教訓。

9月レポートの中身:技術詳細ではなく事例集

本レポートは定例セキュリティ開示シリーズのひとつで、URLの /threat-intelligence-report- という接頭辞からも分かる通り、都度の臨時公開ではない。

9月版の柱は以下の3つの悪用シナリオだ。

  • 詐欺スクリプト生成:特定プラットフォーム向けに最適化されたトークをClaudeで生成。典型パターンは「恋愛詐欺 + 暗号通貨」。
  • コードインジェクション補助:悪性コード片を「セキュリティ研究」の質問としてパッケージし、有用なペイロードを出力させる。
  • 自動化攻撃のオーケストレーション:Claude API を用いてフィッシングメールを量産し、social engineering を自動化する。

レポートの大半は「Anthropicがどう検知し、どうBanしたか」の説明に費やされている。だが肝心の問い——Banされた悪用者はその後どこへ行ったのか——には触れていない。

検知手法は思ったほど賢くない、9割はルールベース

レポートの細部と HN のコメントを突合させると、直感に反する事実が浮かび上がる。所谓「AI滥用検知」の実態は、行動指纹 + パターン照合だ。LLM自身に滥用かどうかを判定させるのは、コストが嵩むうえ精度も安定しない。

Anthropicのアプローチはハイブリッドで、大別して3層構成になっている。

  1. 行動指纹:IPセグメント、デバイス指紋、リクエストの時間分布、API key の利用パターン
  2. パターン照合:キーワード、正規表現、プロンプトテンプレートのブラックリスト
  3. LLM二次判定:疑わしいサンプルに対してのみ Claude で判定、閾値超過時のみ起動

3層目がコストの重い部分だ。Anthropic自身も認めているように、リクエストごとに LLM を回すのは経済的に成立しない。実運用では、不正リクエストの約90%が前2層で弾かれ、残り10%の高リスクサンプルだけが LLM に回る。

これが検知に必ず遅延が生じる理由だ。「このユーザーはおかしい」と判定するには、まず行動系列を一定量蓄積する必要がある。単発リクエストだけで悪用を見極めるのは、モデルベンダー側にはほぼ不可能に近い。

アカウントBanは無効、違反者は24時間で別アカを作って戻る

HN のコメント欄で繰り返し出てくる論点がある。Ban されたアカウントは平均18時間以内に新アカウントで復帰する、というものだ。

正直なところ、Anthropic 9月レポート本文にはこの数字の明示的な出典が見つからなかった(より古い号に書かれているのかもしれない)。ただし、コメント欄のコンセンサスと、悪用者コミュニティの公開情報を見るかぎり、このオーダー自体は妥当だろう。悪用者側はそもそも「アカウント作成ツール + 自動化スクリプト」を当たり前のように揃えており、個体アカウントの Ban 程度では、ゲームで回線落ちして再ログインするくらいの感覚にしかならない。

ここが、レポートが意図的にぼかした核心——検知速度が不正利用の速度に追いつかない、という現実だ。

Anthropicの検知パイプラインは「行動収集 → パターン照合 → 有人レビュー → Ban」という流れで、トリガーから Ban 完了まで数時間かかる。一方で、不用者は Ban されてから別アカで復帰するまで十数分で完了する。

さらにたちが悪いのは、各社の検知ルールを逆解析するコミュニティが既に存在し、「Claude で Ban されない方法」系のチュートリアルが普通に流通している点だ。攻めと守りのコスト構造がまったく対称になっていない。

国内勢が持ち帰れるヒント:API 制限だけ追いかけるな

国内の大規模言語モデルベンダーのセキュリティ機構は、いまなお「レート制限 + キーワード」が主流だ。リクエストが頻繁すぎる? 制限。プロンプトに機微ワードが含まれる? 拒否。一見筋が通っているように見えるが、実効果はかなり限定的だ。

  • レート制限はスクリプトには効くが、人間の操作には無力
  • キーワードブラックリストは3日もすれば突破される。Base64 エンコード、類義語置換、拼音頭文字など、回避手法は既に定番化している

Anthropic から学ぶべきは、行動系列分析——単発リクエストではなく、一定時間内の呼び出しパターンを捉える発想だ。たとえば以下のようなイメージになる。

# 疑似コード:行動系列による検知
def is_abnormal_behavior(user_id, time_window=3600):
    requests = get_recent_requests(user_id, time_window)

    signals = {
        'request_burst': len(requests) > 100,  # 1時間で100リクエスト超
        'time_pattern': is_24_7_pattern(requests),  # 24時間均質分布
        'prompt_similarity': avg_cosine_sim(requests) > 0.85,  # プロンプトが酷似
        'topic_drift': has_topic_drift(requests),  # 話題のドリフト
    }

    if sum(signals.values()) >= 2:
        return flag_for_review(user_id)
    return allow(user_id)

このコード自体に複雑なロジックはない。核は単発リクエストを時系列データに変換することだ。国内ベンダーが追いつくべきは LLM 判定ではなく、データエンジニアリング——行動ログをどう蓄積し、どう検索し、どうリアルタイムで集約するか、という泥臭い領域の話だ。

編集後記:レポートの価値は中身ではなく態度にある

このレポートをAnthropicの全体戦略の中に位置づけると、本質は規制当局への忠誠の証だろう。

2026年に入って米国のAI規制圧力は明らかに強まっており、Anthropicが率先して脅威情報を開示する姿勢は、「我々は競合より責任あるプレイヤーだ」というシグナル発信と読み取れる。レポートに書かれていない技術的な詳細は、実は重要ではない。重要なのは「Anthropicはセキュリティを真面目にやっている」というメッセージを、立法者と世論に届けること自体だ。

本気で滥用を摘発したいなら、モデルベンダー単独では到底足りない。連動が必要なのは以下に挙げるレイヤだ。

  • クラウド事業者:IPの真实的归属を把握している
  • CDN:自動化トラフィックの特徴を識別できる
  • 決済チャネル:不正サブスクリプションを凍結できる
  • 携帯番号 / メールプロバイダ:一括登録を検知できる

こうしたデータはモデルベンダー側からは一切アクセスできない。問題は、どこも音頭を取っていないことだ。EUのAI Actはまだ揉めているし、米国議会は2年議論して法案すら出していない。中国の备案制はモデル自体を対象とするもので、滥用は管轄外。

つまりこのレポートの真の価値は、「誰も旗を振っていない問題」に対して「誰かがやっている」という絵を描くことにある。滥用問題を解決できるかどうかについては、「24時間で別アカ復帰」というデータポイントがすでに答えを出している——いまは無理、3年以内もたぶん無理。

唯一シナリオを変えられる可能性があるのは、決済チャネルとクラウド事業者に強制的な連携を義務づける規制だ。だがそこに至るには規制レイヤでの強い拘束が必要で、現在地からはまだ距離がある。

出典: https://www.anthropic.com/threat-intelligence-report-september-2026