實戰

OpenAI 第三度曝光俄羅斯資訊戰:AI 平台如何獵捕國家級網軍

OpenAI 公開拆解一起以 ChatGPT 生產多語言宣傳內容的俄羅斯隱蔽行動。事件背後真正的訊號,是 AI 平台已將反影響力作戰納入日常運營。

字級

2025 年 10 月,OpenAI 發了一篇部落格文章,標題很直接:Disrupting malicious uses of AI — Russia。在 Hacker News 上拿下 55 分、39 則評論——對 AI 安全這種偏營運性質的話題而言,算是相當高的關注度。

這是 OpenAI 第三次公開披露針對國家級 AI 濫用的干預行動。換言之,他們不再只是私下封號,而是把「反影響力作戰」做成季度財報之外的另一種對外敘事。

這次被拆解的行動長什麼樣

OpenAI 封禁了一批與俄羅斯相關的帳號。這些帳號用 ChatGPT 做了三件事:

  • 生成多語言社群內容——英語、俄語、葡萄牙語夾雜,議題橫跨烏克蘭、加薩、歐盟、北約
  • 除錯程式任務——自動化發文腳本、文本生成管線
  • 撰寫長篇宣傳文章——偽裝成「分析稿」的英文長文,鎖定投放在 X、Telegram 以及一些小眾論壇

官網原文標題用的是 covert influence operation(隱蔽影響力行動)。OpenAI 表示,這是影響力作戰領域中他們識別到的第二起俄羅斯相關案例——但這次揭露的細節程度,比以往都更細膩。

為什麼是第三次?往前回顧:

  • 2024 年 5 月,首次揭露,牽涉俄羅斯、以色列、伊朗、中國的混合行動
  • 2024 年 8 月,揭露 Storm-2035——一個被資安社群廣泛追蹤的伊朗系集群
  • 2025 年 10 月,本次俄羅斯行動

揭露頻率從一年一次,壓縮到幾個月一次。

調查流程拆解:從單一帳號到整張網絡

這是全文資訊密度最高的部分——OpenAI 直接把他們的工作流攤開來看。

四步驟流程:

帳號識別 → 行為畫像 → 網絡關聯 → 平台通報

1. 帳號識別

他們從一個可疑帳號切入。這個帳號的 ChatGPT 使用模式不太正常:批次長文本、跨語言切換、產出內容帶有特定政治敘事框架。

OpenAI 沒有透露具體使用哪個模型偵測,但從描述來看,很可能是 LLM 評分加上行為訊號融合的作法。

2. 行為畫像

對識別出的帳號進行橫向分析:

  • 發文時區——與俄羅斯時區吻合(UTC+3 附近)
  • 語言一致性——帳號「母語」為俄語,但成品分發到英、葡、阿拉伯語圈
  • API 呼叫模式——API token 集中在俄語區 IP 段
  • 內容指紋——長文結構、用詞偏好、引用來源都有重複模式

這套畫像不是事後總結,而是即時分群。

3. 網絡關聯

從單一帳號向外輻射。OpenAI 表示他們將帳號分成兩個集群:

  • 一集群負責英文長文生產——影響英語圈討論
  • 一集群負責多語言社群媒體——影響拉美、東歐議程

兩個集群操作同一套敘事,但分工明確。這種職能拆分正是國家級行動室的典型特徵。

4. 平台通報

帳號封禁完成後,OpenAI 將內容指紋與帳號中繼資料同步給合作社交平台,協助下架。

跟前兩次有什麼不同

對比三起案例的揭露差異:

維度2024.052024.08 Storm-20352025.10 俄羅斯
揭露細緻度概述級中等,有陣營標籤完整四步驟
跨平台下架數據未公開部分公開完整公開
關聯集群數量多國混合單一伊朗系俄羅斯雙集群
執法協同未提及提及 FBI 等機構未明確提及

三個變化值得注意:

第一,揭露從「事件通報」升級為「流程示範」。前兩次偏向資安公告,這次直接把調查方法論攤開來——對其他營運者既是威懾,也是研究素材。

第二,跨平台協作下沉到執行層。OpenAI 不只說自己封了多少號,而是同步說出「和平台合作下架了多少內容」。數字攤開來,代表平台之間已形成常態化資料管道。

第三,俄羅斯系行動開始走「長文+多語言分發」雙軌。這和 Storm-2035 那種「短平快社群轟炸」是兩種作戰模式。前者更難被演算法識別,因為內容生產品質更高。

技術細節:他們到底用什麼方法偵測

這部分是技術讀者最在意的環節。

OpenAI 沒有揭露偵測模型本身,但他們列出行為訊號維度:

- 帳號註冊時間戳集群
- API 呼叫地理分佈
- 內容生成的 prompt-template 複用度
- 輸出文本的 LLM 風格機率分數
- 跨帳號的措辭相似度
- 發佈時區的統計偏差

這些訊號單獨看都不夠,但疊在一起,就能從單一帳號異常推到集群行為。

他們與社交平台的協作下架數量級——數千條內容,橫跨 X、Telegram 以及幾個小平台。OpenAI 在部落格裡把數字具體到個位數。相較之下,2024 年那兩次揭露只寫「批量」,沒有具體數字。

一個有意思的側面:除錯程式碼那段。俄羅斯行動者用 ChatGPT 跑自動化腳本——這代表 LLM 不只是被濫用的對象,還是作戰工具鏈的一環。OpenAI 沒有說明他們如何區辨「正經寫程式 vs 寫網軍腳本」的界線,這是個留白。

如果要推測,他們的偵測層大概長這樣:

# 偽代碼示意
def detect_influence_op(session: ChatSession) -> bool:
    signals = {
        "geographic_anomaly": score_ip_diversity(session),
        "content_political_score": classify_political_lean(session.messages),
        "api_velocity": session.requests_per_minute(),
        "template_reuse": check_prompt_fingerprint(session)
    }
    return weighted_or(signals) > threshold

——具體閾值與權重 OpenAI 沒說,也不可能在部落格裡透露。能做的只是留個窗口讓研究社群覆盤。

Hacker News 上討論度最高的留言(45 分)就指向這點:「AI 平台正在用 AI 反制 AI 濫用,這是攻防賽跑的開端。」

原文連結:openai.com/index/disrupting-malicious-uses-of-ai-influence-campaign-russia

編輯觀點

這件事值得認真看待,因為它標定了 AI 公司角色的轉變。

OpenAI 不再只是「模型供應商」,而是實質上的內容守門員。影響力作戰防禦(influence ops defense)過去是國家情報機構、平台 trust & safety 團隊的工作。現在模型廠商親自下場——因為濫用必須經過他們的 API。

我的判斷:OpenAI 在搶敘事主導權,同時這個產業也已來到一個轉折點。

具體和過去哪些事不同?

  1. 過去平台是被動接收濫用通報,現在模型廠商主動挖掘——情蒐能力出現倒掛
  2. 過去資安揭露是公關災難管理,現在變成產品差異化賣點
  3. 過去 AI 公司與情報機構是平行關係,未來可能變成實質上的外包合作

不確定的地方:OpenAI 沒有揭露漏檢率。他們說封了 X 個帳號,但沒透露還有多少沒抓到。在這個資訊不對稱下,真正的戰場規模是被低估的。

另一個懸而未決的問題:如果 Anthropic、Google DeepMind、Meta 也跟進——會不會出現一個跨廠商的情資共享聯盟?理論上可行,但會撞上企業競爭與資料隔離的天花板。

最後留一個務實判斷:未來 12 到 18 個月,我們會看到更多「OpenAI 第四度拆解 X」的公告。頻率會越來越高,揭露細緻度會越來越細。這條生產線不再是新聞,而是季度基礎建設。

來源: https://openai.com/index/disrupting-malicious-uses-of-ai-influence-campaign-russia/