实战

OpenAI 第三次拆解俄罗斯信息战:AI 公司怎么抓国家级水军

OpenAI 公开了如何识别并封禁一场用 ChatGPT 生成多语言宣传内容的俄罗斯隐蔽行动。55 分热度背后,是 AI 平台把反影响力作战做成日常运营的信号。

字号

2025 年 10 月,OpenAI 发了篇博客,标题直白:Disrupting malicious uses of AI — Russia。Hacker News 上拿了 55 分、39 条评论——对 AI 安全这种偏运营的话题,这个热度算高位。

这是 OpenAI 第三次公开披露针对国家级 AI 滥用的干预行动。换句话说,他们不再只是私下封号,而是把"反影响力作战"做成了季度财报之外的另一种对外叙事。

这次被拆的行动长什么样

OpenAI 封禁了一批与俄罗斯相关的账号。这些账号用 ChatGPT 干了三件事:

  1. 生成多语言社媒内容——英语、俄语、葡萄牙语,夹杂着乌克兰、加沙、欧盟、北约议题的帖文
  2. 调试编程任务——自动化发帖脚本、文本生成流水线
  3. 撰写长篇宣传文章——伪装成"分析稿"的英文长文,定向投放在 X、Telegram、还有一些小众论坛

官网原文标题里用了 covert influence operation(隐蔽影响力行动)。OpenAI 说这是他们在影响力作战领域识别的第二起俄罗斯相关案例——但这次披露的颗粒度,比之前都细。

为什么是第三次?往前翻:

  • 2024 年 5 月,第一次披露,涉及俄罗斯、以色列、伊朗、中国的混合行动
  • 2024 年 8 月,披露 Storm-2035——一个被安全社区广泛追踪的伊朗系集群
  • 2025 年 10 月,这次俄罗斯行动

频率从一年一次,压到几个月一次。

调查流程拆解:从单账号到整张网

这是文章最有信息密度的部分——OpenAI 把他们的工作流摆出来了。

四步法:

账号识别 → 行为画像 → 网络关联 → 平台通报

1. 账号识别

他们从一个可疑账号切入。这个账号的 ChatGPT 使用模式不正常:批量长文本、跨语言切换、生成内容带特定政治叙事框架。

OpenAI 没说用什么模型检测,但从披露的描述看,大概率是 LLM 评分 + 行为信号融合。

2. 行为画像

对识别出的账号做横向分析:

  • 发帖时区——和俄罗斯时区吻合(UTC+3 周边)
  • 语言一致性——账号"母语"是俄语,但成品分发到英、葡、阿语圈
  • API 调用模式——API token 集中在俄语区 IP 段
  • 内容指纹——长文结构、用词偏好、引用源都有重复模式

这套画像不是事后总结,是实时聚类。

3. 网络关联

从单账号向外辐射。OpenAI 说他们把账号分成两个簇:

  • 一簇负责英文长文生产——影响英语圈讨论
  • 一簇负责多语言社媒——影响拉美、东欧议程

两个簇操作同一个叙事,但分工清晰。这种职能拆分是国家背景行动室的典型特征。

4. 平台通报

账号封禁完成后,OpenAI 把内容指纹和账号元数据同步给合作社交平台,协助下架。

和前两次有什么不同

对比三起案例的披露差异:

维度 2024.05 2024.08 Storm-2035 2025.10 俄罗斯
披露颗粒度 概述级 中等,有阵营标签 完整四步法
跨平台下架数据 未公开 部分公开 完整公开
关联集群数量 多国混合 单一伊朗系 俄罗斯双簇
执法协同 未提及 提及 FBI 等机构 未明确提及

三个变化值得注意:

第一,披露从"事件通报"变成"流程示范"。前两次更像是安全公告,这次直接把调查方法论摊开——这对其他运营者既是威慑,也是研究素材。

第二,跨平台协作下沉到执行层。OpenAI 不只说自己封了多少号,而是同步说了"和平台合作下架了多少内容"。这种数字放出来,意味着平台间已经形成了常态化数据管道。

第三,俄罗斯系行动开始走"长文 + 多语言分发"双轨。这和 Storm-2035 那类"短平快社媒轰炸"是两种作战模式。前者更难被算法识别,因为内容生产质量更高。

技术细节:他们到底用什么方法检测

这部分是技术读者关心的。

OpenAI 没披露检测模型本身,但他们列出了行为信号维度:

- 账号注册时间戳集群
- API 调用地理分布
- 内容生成的 prompt-template 复用度
- 输出文本的 LLM 风格概率分数
- 跨账号的措辞相似度
- 发布时区的统计偏差

这些信号单独看都不够,但叠在一起,就能从单账号异常推到集群行为。

他们和社交平台的协作下架数量级——几千条内容,跨 X、Telegram、还有几个小平台。OpenAI 在博客里把数字具体到个位。对比之下,2024 年那两次披露只是"批量",没有具体数字。

一个有意思的侧面:调试代码那部分。俄罗斯行动者用 ChatGPT 跑自动化脚本——这意味着 LLM 不仅是被滥用对象,还是作战工具链的一环。OpenAI 没说他们怎么识别"正经写代码 vs 写水军脚本"的边界,这是个留白。

如果让我猜,他们的检测层大概是:

# 伪代码示意
def detect_influence_op(session: ChatSession) -> bool:
    signals = {
        "geographic_anomaly": score_ip_diversity(session),
        "content_political_score": classify_political_lean(session.messages),
        "api_velocity": session.requests_per_minute(),
        "template_reuse": check_prompt_fingerprint(session)
    }
    return weighted_or(signals) > threshold

——具体阈值和权重 OpenAI 没说,也不可能在博客里说。能做的只是留个窗口让研究社区复盘。

Hacker News 上讨论度最高的评论(45 分)就指向这个:"AI 平台到底在用 AI 反 AI 滥用,这是攻防赛跑的开端。"

原文链接:openai.com/index/disrupting-malicious-uses-of-ai-influence-campaign-russia

编辑思考

这件事值得认真看,因为它标定了 AI 公司角色的转变。

OpenAI 不再只是"模型供应商",而是事实上的内容哨兵。影响力作战防御(influence ops defense)过去是国家情报机构、平台 trust & safety 团队的活。现在模型厂商下场了——因为滥用必须经过他们的 API。

我的判断:这是 OpenAI 在抢叙事主动权,也是行业到了一个拐点。

具体和过去哪些事不同?

  1. 过去平台是被动接收滥用报告,现在模型厂商主动挖掘——情报能力倒挂
  2. 过去安全披露是 PR 灾难管理,现在变成产品差异化卖点
  3. 过去 AI 公司和情报机构是平行关系,未来可能变成事实上的外包合作

不确定的地方:OpenAI 没披露漏检率。他们说封了 X 个账号,但没披露还有多少没抓到。这个不对称信息下,真正的战场规模是被低估的。

另一个悬而未决的问题:如果 Anthropic、Google DeepMind、Meta 也跟进——会不会出现一个跨厂商的情报共享联盟?理论上可以,但这会撞上企业竞争和数据隔离的天花板。

最后留个现实判断:未来 12-18 个月,我们会看到更多"OpenAI 第四次拆解 X"。频率会越来越高,披露颗粒度会越来越细。这条线不再是新闻,而是季度基础设施。

来源: https://openai.com/index/disrupting-malicious-uses-of-ai-influence-campaign-russia/