Anthropic 每月发威胁情报报告,这次聊怎么抓滥用 Claude 的人。比起报告本身,报告里没说的事更值得聊。
报告原文在 anthropic.com/threat-intelligence-report-september-2026。比起技术细节,这次报告更像案例集——诈骗脚本生成、代码注入辅助、自动化攻击编排,Anthropic 给了几个真实被识别并封禁的场景。
HN 上挂了 35 个赞、19 条评论,热度比平时 Anthropic 的帖子高一截。但点进去看评论,讨论的不是报告本身,而是报告回避的几个问题。
下面分四块聊:报告内容、检测手段的真相、封禁为什么没用、国内能抄什么。
9 月报告讲了什么:不是技术细节,是案例
Anthropic 这份报告属于定期安全披露系列,URL 里的 /threat-intelligence-report- 前缀说明是常态发布,不是一次性事件。
9 月这期的核心是几个滥用场景的复盘:
- 诈骗脚本生成:用 Claude 生成针对特定平台的话术,典型组合是「恋爱诈骗 + 加密货币」
- 代码注入辅助:把恶意代码片段包装成「安全研究」问题喂给模型,让模型输出可用的 payload
- 自动化攻击编排:用 Claude API 批量生成钓鱼邮件、自动化 social engineering
报告重点讲了 Anthropic 怎么识别、怎么封禁。但没讲的是:这些滥用者被封之后去哪了。
检测手段没想象中智能,90% 还是规则匹配
翻报告细节和 HN 评论,你会发现一个反直觉的事实:所谓「AI 滥用检测」,核心还是行为指纹 + 模式匹配。LLM 本身在判别滥用这件事上,既贵又不准。
Anthropic 的方案是混合架构,大致分三层:
- 行为指纹:IP 段、设备指纹、请求时间分布、API key 使用模式
- 模式匹配:关键词、正则、prompt 模板黑名单
- LLM 二次判别:对可疑样本用 Claude 判别,触发阈值才走 LLM
第三层是贵的部分。Anthropic 自己承认,纯靠 LLM 判别每个请求,成本扛不住。实际生产里,大概 90% 的滥用请求在前两层就被拦了,LLM 只处理剩下的 10% 高风险样本。
这就是为什么检测有滞后——你得先攒够行为序列,才能判定「这个用户不正常」。单次请求的判别,模型厂商几乎做不了。
封禁账号没用,违规者 24 小时换号重来
HN 评论里反复出现一个观点:被 ban 的账号平均 18 小时内用新账号绕过。
我在 Anthropic 9 月报告原文里没找到这个数字的明确出处(可能在更早的某期报告里)。但从评论区共识和滥用者社区的公开讨论看,这个量级是合理的。滥用者本来就是「换号工具 + 自动化脚本」的标准配置,封禁单个账号对他们的影响,大概等于你玩游戏掉线重连。
这才是报告没明说的核心问题:检测速度跑不过滥用速度。
Anthropic 的检测链路是:行为采集 → 模式匹配 → 人工复核 → 封禁。从触发到封禁完成,通常要走几个小时。而滥用者从被封到换号重来,只要十几分钟。
更麻烦的是,滥用者会专门研究各家厂商的检测规则,网上甚至有公开的「如何避免被 Claude 封号」的教程。攻防完全不对等。
国内同行可以抄什么:别只盯着 API 限流
国内大模型厂商的安全机制,普遍还在「限速 + 关键词」阶段。请求太频繁?限速。prompt 里有敏感词?拒答。听起来合理,但实际效果很差:
- 限速对真人没用,只对脚本有效
- 关键词黑名单三天就被绕过,base64 编码、同义词替换、拼音首字母都是现成手法
Anthropic 值得借鉴的是行为序列分析——不是单次请求,而是一段时间内的调用模式。比如:
# 伪代码:行为序列检测
def is_abnormal_behavior(user_id, time_window=3600):
requests = get_recent_requests(user_id, time_window)
signals = {
'request_burst': len(requests) > 100, # 1 小时超 100 次
'time_pattern': is_24_7_pattern(requests), # 24 小时均匀分布
'prompt_similarity': avg_cosine_sim(requests) > 0.85, # prompt 高度相似
'topic_drift': has_topic_drift(requests), # 话题漂移
}
if sum(signals.values()) >= 2:
return flag_for_review(user_id)
return allow(user_id)
这段代码逻辑不复杂,核心是把单次请求变成时间序列。国内厂商要补的课,不是 LLM 判别,是数据工程——怎么存、怎么查、怎么实时聚合用户行为。
编辑思考:报告的意义不在内容,在姿态
把这份报告放回 Anthropic 的整体策略里看,本质是给监管递投名状。
2026 年美国 AI 监管压力明显加大,Anthropic 主动公开威胁情报,姿态是「我比竞争对手更负责任」。报告里没有的技术细节,其实不重要。重要的是把「Anthropic 在认真做安全」这个信号传递给立法者和公众。
真正想抓滥用,光靠模型厂商远远不够。需要联动的是:
- 云厂商:知道 IP 真实归属
- CDN:能识别自动化流量特征
- 支付通道:能冻结违规订阅
- 手机号 / 邮箱服务商:能识别批量注册
这些数据模型厂商都拿不到。但没人在牵头。欧盟的 AI Act 还在扯皮,美国国会吵了两年没出法案,中国的备案制管的是模型本身,不管滥用。
所以这份报告的真正价值,是给一个没人牵头的事画了一张「有人在做」的图。至于能不能解决滥用问题,我觉得 24 小时换号这个数据点已经给出答案了——现在不能,3 年内大概率也不能。
唯一可能改变局面的,是支付通道和云厂商被强制要求配合。但这件事需要监管层面的强约束,而我们目前离那个点还很远。