実践

OpenAIがロシアの情報戦を3度目の解体──AI企業はいかに国家級の工作を摘発するか

OpenAIがChatGPTを使ったロシア発多言語プロパガンダ工作の特定・ban体制を公表した。55ポイントのHacker News注目度に表れたのは、AIプラットフォームが影響力作戦対策を日常運用に組み込み始めたというシグナルである。

文字サイズ

2025年10月、OpenAIがブログを公開した。タイトルは端的そのもの──Disrupting malicious uses of AI — Russia。Hacker Newsでは55ポイント、コメント39件を獲得。AI安全という運用寄りのトピックとしてはかなり高い注目度だ。

これはOpenAIが国家レベルのAI悪用への介入を公に開示した3度目のケースになる。裏を返せば、彼らは水面下でアカウントを停止するだけでなく、「影響力作戦対策」を四半期決算とは別の対外ストーリーとして語る段階に入ったということだ。

今回解体された工作の中身

OpenAIはロシア関連のアカウント群を一括banした。これらのアカウントはChatGPTを使って主に3つのことを行っていた。

  • 多言語ソーシャルメディア投稿の生成──英語、ロシア語、ポルトガル語で、ウクライナ、ガザ、EU、NATO関連のトピックを投稿
  • プログラミング作業のデバッグ支援──自動投稿スクリプトやテキスト生成パイプラインの構築
  • 長文プロパガンダ記事の作成──「分析記事」を装った英語長文をX、Telegram、一部ニッチなフォーラムに配信

公式ブログではcovert influence operation(隐蔽影响工作)という表現が使われている。OpenAIによれば、これが影響力作戦の領域で同社が特定したロシア関連の2件目の事例だが、開示の粒度は過去2回より明らかに細かい。

なぜ3回目なのか。整理するとこうなる。

  • 2024年5月:1回目の開示、ロシア、イスラエル、イラン、中国の混合作戦が対象
  • 2024年8月:Storm-2035の開示──セキュリティコミュニティで広く追跡されていたイラン系のクラスター
  • 2025年10月:今回のロシア作戦

開示頻度は年1回から数か月単位に圧縮された。

調査フローの内訳:単一アカウントからネットワーク全体へ

今回の開示で最も情報密度が高いのがこのパートだ。OpenAIが自らのワークフローを公開している。

4ステップのフレームワーク。

アカウント特定 → 行動プロファイリング → ネットワーク相関分析 → プラットフォーム報告

1. アカウント特定

彼らは1つの不審アカウントから着手した。このアカウントのChatGPT利用パターンは異常だった。長文の一括生成、言語をまたいだスイッチング、政治的ナラティブの枠組みを含んだコンテンツ生成。

OpenAIは検出にどんなモデルを使ったか明言していないが、開示内容から推測するに、おそらくLLMスコアリングと行動シグナルの融合だろう。

2. 行動プロファイリング

特定したアカウントを横断的に分析する。

  • 投稿時間帯──ロシアのタイムゾーン(UTC+3前後)と一致
  • 言語の一貫性──アカウントの「母語」はロシア語だが、最終成果物は英語圏、ポルトガル語圏、アラビア語圏に配信
  • API呼び出しパターン──APIトークンがロシア圏IPに集中
  • コンテンツ指紋──長文の構造、語彙の傾向、引用元のいずれにも反復パターン

このプロファイリングは事後分析ではなく、リアルタイムのクラスタリング処理として動いている。

3. ネットワーク相関分析

単一アカウントから外側へ放射状に展開する。OpenAIによれば、アカウントは2つのクラスターに分けられた。

  • 1つは英語長文の生産担当──英語圏の議論に影響を与える
  • もう1つは多言語ソーシャルメディア担当──中南米、東欧のアジェンダに影響を与える

両クラスターは同じナラティブを運用しているが、役割分担は明確だ。この種の機能分化は、国家背景を持つ工作室の典型的な特徴である。

4. プラットフォーム報告

アカウントのban完了後、OpenAIはコンテンツ指紋とアカウントメタデータを提携ソーシャルプラットフォームに共有して削除を支援する。

前回までとの違い

3つのケースを並べて比較するとこうなる。

観点2024.052024.08 Storm-20352025.10 ロシア
開示の粒度概略レベル中程度、陣営タグ付き4ステップ法を完全開示
クロスプラットフォーム削除データ未公開一部公開完全公開
関連クラスター数複数国の混合イラン系単一ロシア系2クラスター
法執行機関との連携言及なしFBI等の機関に言及明示なし

注目すべき変化は3つある。

第1に、開示が「事件報告」から「手順の実演」に変わった。前2回はどちらかといえばセキュリティアナウンスだったが、今回は調査方法論をそのまま公開している。他の運用者にとっては威嚇であり、研究者にとっては分析素材でもある。

第2に、クロスプラットフォーム連携が実行層まで降りてきた。OpenAIは自社でbanしたアカウント数を語るだけでなく、「プラットフォームと協力して何件のコンテンツを削除した」まで数字を出している。この数字を出せるということは、プラットフォーム間に常態的なデータパイプラインが形成されているということだ。

第3に、ロシア系の工作が「長文+多言語配信」の二段構えに移行した。Storm-2035のような「短時間でSNSを叩く」タイプとは別種の作戦モードだ。前者はコンテンツの質が高くアルゴリズムに検知されにくい。

技術詳細:彼らは結局何で検出しているのか

技術読者が一番気になるのがこのパートだろう。

OpenAIは検出モデル自体は開示していないが、行動シグナルの次元をリストアップしている。

- アカウント登録タイムスタンプのクラスタリング
- API呼び出しの地理分布
- コンテンツ生成時のプロンプトテンプレート再利用度
- 出力テキストのLLM風確率スコア
- アカウント間の言い回しの類似度
- 投稿タイムゾーンの統計的偏り

シグナル単体では不十分だが、重ね合わせれば単一アカウントの異常からクラスターの挙動まで到達できる。

ソーシャルプラットフォームとの連携による削除数のオーダーは数千件のコンテンツで、X、Telegram、その他少数のプラットフォームにまたがる。OpenAIは数字を1桁単位で具体的に出している。対照的に、2024年の2回は「一括」止まりで具体数字はなかった。

興味深いのはコードデバッグのユースケースだ。ロシアの工作勢力はChatGPTで自動化スクリプトを回していた。つまりLLMは単なる悪用対象ではなく、作戦ツールチェーンの一部でもある。OpenAIは「真っ当なコード」と「工作スクリプト」の境界をどう見分けているか語っていない。ここは空白になっている。

推測で書くなら、彼らの検出層はおそらくこんな感じだろう。

# 疑似コードのイメージ
def detect_influence_op(session: ChatSession) -> bool:
    signals = {
        "geographic_anomaly": score_ip_diversity(session),
        "content_political_score": classify_political_lean(session.messages),
        "api_velocity": session.requests_per_minute(),
        "template_reuse": check_prompt_fingerprint(session)
    }
    return weighted_or(signals) > threshold

──具体的な閾値と重みはOpenAIは言っていないし、ブログで言える類のものでもない。できるのは研究コミュニティが検証できる窓口を残しておくことだ。

Hacker Newsで最もスコアが高かったコメント(45ポイント)がまさにここを突いている。「AIプラットフォームがAIでAI悪用に立ち向かう、これは攻めと守りのレースの幕開けだ」と。

元記事:openai.com/index/disrupting-malicious-uses-of-ai-influence-campaign-russia

編集部の見立て

この事案はAI企業の役割変化を示す指標として、真剣に読む価値がある。

OpenAIはもはや単なる「モデル提供者」ではなく、実質的なコンテンツ監視役だ。影響力作戦防御(influence ops defense)は従来、国家情報機関やプラットフォームのtrust & safetyチームの領域だった。そこにモデルベンダーが降りてきた。悪用が彼らのAPIを経由する以上、そうなるしかない。

私の見立てでは、これはOpenAIがナラティブの主導権を握りに行った動きであり、業界が曲がり角に差しかかっていることを示している。

過去と具体的に何が違うのか。

  1. 従来プラットフォームは悪用報告を「受ける」側だったが、モデルベンダーが能動的に掘り起こす側に回った──情報の優位性が逆転した
  2. 安全開示は従来PRの火消しだったが、今は製品差別化の訴求点になっている
  3. AI企業と情報機関は従来並列の存在だったが、今後は事実上の外注パートナー関係になり得る

不確実な点もある。OpenAIは見落とし率を開示していない。X件のアカウントをbanしたとは言っているが、まだ取り逃している件数は語っていない。この情報の非対称性がある以上、本当の戦場規模は過小評価されている可能性がある。

もう一つ残された問い。もしAnthropic、Google DeepMind、Metaが追随したら──ベンダーを横断する情報共有連合は生まれるか。理論上はあり得るが、企業の競争とデータ分離という天井にぶち当たる。

最後に現実的な見通しを一つ。今後12〜18か月で「OpenAIによるXの4度目の解体」が何度も報じられるだろう。頻度は上がり、開示の粒度はさらに細かくなる。この線はニュースではなく、四半期ごとのインフラになる。

出典: https://openai.com/index/disrupting-malicious-uses-of-ai-influence-campaign-russia/