Talos Intelligenceがcultureした情報窃取マルウェアVoltaは、LLMを使って被害者の価値を評価し、窃取対象を順番付けする。企業が補うべきなのは、悪意あるプロンプトの検知だけではない。モデル呼び出し、ファイル読み込み、外部送信を結びつける振る舞い連鎖の把握も必要になる。
Volta.infostealerがLLMで被害者を評価
従来の情報窃取マルウェアは、おおむね決まった手順で動作する。偵察、配信、永続化、認証情報の収集、文書の検索、そしてデータをまとめて外部へ送信する、という流れである。
Voltaは、その中の一点を変更した。
Talos Intelligenceは、Voltaという名前の情報窃取マルウェアをcultureした。このマルウェアは大規模言語モデル(LLM)を活用し、潜在的な被害者を評価する。データの価値を判断し、情報窃取の優先順位を確定する。公開 Maintainingで明らかになったのは、AIによって駆動される「被害者の優先順位評価」の仕組みだ。生成AIが攻撃チェーンに組み込まれている。
これは「AIで少し stigmat的なフィッシングメールを書かせる」レベルの話ではない。LLMは攻撃チェーンの外側でコンテンツを生成するのではなく、どの被害者を先に狙うか、どのデータを探すか、どの対象に追加リソースを使う価値があるかを攻撃者に判断させる。
LLMは文案生成だけでなく、攻撃判断にも関与
多くの人にとって、AIを使うマルウェアのイメージは文案生成の域にとどまる。
「あなたは某社の経理部長です」とプロンプトに書き込み、モデルに督促メールを生成させたり、悪意あるスクリプトを書き直して正規スクリプトに偽装させたりする。デモもしやすく、理解もしやすい用途である。
Voltaの用途は、分析の領域に近い。
Talos Intelligenceの説明によると、Voltaは収集した被害者情報をLLMに渡し、その出力を「Appraisal」、すなわち価値評価として利用する。この結果は、後続のデータ収集の方向と実行順序に影響する。
つまり、LLMは攻撃判断システムの一要素であり、単なるコンテンツ生成ツールではない。
この変化は注視に値する。テキストが悪意ある特徴を持つかどうかは、分類器、ルール、サンドボックスで処理できる。しかし、「どの被害者から情報を盗むべきか」「今どのステップを優先すべきか」は固定文字列ではない。コンテキストと、モデルによる複数情報の要約に依存する。
モデルの出力が攻撃の並び順になる仕組み
仕組みを分解すると、おおむね次の4段階になる。
- マルウェアが対象に関連する情報を収集する。
- 収集した情報を整理してLLMに送る。
- モデルの出力を解析し、被害者の価値や優先順位を示す信号へ変換する。
- 攻撃プログラムがその結果に基づいて、文書の検索、収集、外部送信の順序を決める。
重要なのは3段階目から4段階目への接続である。
モデルが自然言語だけを返す場合、マルウェアはそれを実行可能な判断項目へ変換する必要がある。たとえば次のようになる。
{
"victim_id": "host-17",
"appraisal": 86,
"priority": 1,
"signals": [
"finance-related files present",
"browser credential stores accessible",
"sensitive documents indexed"
]
}
このJSONは仕組みを説明するための例であり、TalosがcultureしたVoltaのソースコードやAPI仕様ではない。実際の実装が数値を直接返すとは限らず、レベル、ラベル、並び順の提案などを返す可能性もある。
だが、制御のあり方は変化した。攻撃者はモデルをループに組み込める。対象をまとめて収集し、一括で評価し、その結果に応じてタスクキューを調整できる。
モデルの出力は「人間が読む文章として自然であること」がもう必要ではない。プログラムの次の行動を安定して左右するだけでよい。
.entry门槛が下がることを incapable={
能力GDPが跳ね上がるわけではない
この点は過大に解釈されやすい。
LLMによって、Voltaが新たなゼロデイ脆弱性を自動的に手に入れたわけではない。悪意あるコードが、検知不能な高度なプログラムへ変身したわけでもない。解決された課題は、より現実的なものだった。
- 対象情報を一括で処理できる。
- 被害者を人手で絞り込む時間を短縮できる。
- 「窃取する価値があるか」を異なる攻撃者間で一貫して判断できる。
- 偵察、判断、自動化タスクを接続できる。
Talos Intelligenceは、LLMを採用する攻撃者の参入障壁が下がっている,指出した。モデルは偵察、判断、自動化タスクに利用できる。攻撃者にとって、その価値はまず技術的な魔法ではなく、プロセスコストの削減にある。
大量の攻撃では毎回最適解を出す必要はない。十分な速さで、いくつかの価値の高い対象を見つければよい。モデルが数百の候補を粗く順位付けし、人手を上位の handfulへ集中させるなら、十分 ,,Llama Merged.
したがって、Voltaはコスト構造の変化と捉えたほうがよい。
従来は、ファイルを読む、資料を要約する、キーワードを挙げるといった作業がボトルネックだった。今では、それらをAPIやローカルモデルへ任せられる。攻撃者が失うのは「ゼロの障壁」ではなく、低い呼び出しコスト、より短い作業時間、より一貫した一括判断である。
154点としてimanently、见的になく何,关注什么
このニュースはHacker Newsのフロントページにも掲載され、154点と67件のコメントを集めた。
開発者コミュニティの関心は、「またAIを使ったマルウェア出现了」だけではない。現実的な問いが3つある。
第一に、検知ロジックを変更すべきかである。
悪意ある行為がモデル呼び出しを経由してから実行される場合、防御側が観察する端末上の挙動は、古い検体と非常によく似ている可能性がある。モデルの役割は判断であり、マルウェアはいずれプロセス、ファイル、ネットワーク、認証情報へのアクセスとして実行される。
第二に、モデル悪用の境界をどう定めるかである。
攻撃者は公開モデルサービスを呼び出す,也可以ローカルモデルを使う。API提供者は一部の悪意あるリクエストを検知できるが、感染端末上で実行される全体の流れまでは見えない。
第三に、オープンソースモデルの防御上の価値が上昇したかである。
推論を完全にオフラインで実行できれば、マルウェアは明らかなクラウドAPIリクエストを残す必要がない。企業はAnthropicやOpenAIなどの外部APIだけを監視するのではなく、ローカル权重、推論フレームワーク、エンドサイド実行環境も考慮する必要がある。
154点は、この手法への開発者の同意を意味しない。ある信号として捉えたほうがよい。LLMを採用するマルウェアが、概念デモの段階を過ぎ、公開の事例研究へ移ったということである。
企業が補うべき防御の層
防御側は「悪意あるテキストが生成されたか」だけを検査してはならない。
より効果的なのは、振る舞い連鎖を観察することである。
- 異常なAPI呼び出し:端末が通常使わないモデルサービスへ突然接続していないか。プロンプトにホスト名、ユーザー名、ファイル索引、認証情報の痕跡が一括で含まれていないか。
- 認証情報の露出:ブラウザのパスワード、SSH key、クラウドアクセスキー、tokenが、意図しないプログラムに読み取られていないか。
- 端末上の振る舞い:情報窃取プログラムが子プロセスを起動し、ディレクトリを走査し、システム認証情報ストアへアクセスし、大範囲のファイルをまとめていないか。
- 外部送信の振る舞い:暗号化トラフィックの量、送信先、アクセス時刻、周期性が、通常のソフトウェアのベースラインから逸脱していないか。
さらに、モデル呼び出しとファイルアクセスの時系列も確認できる。たとえば、プログラムが多数の文書を読み、その要約を外部APIへ送り、返却結果に応じて新しいファイルを作成する。「読み込み―推論―順位付け―追加収集」という連鎖は、単独の悪意あるプロンプトよりも識別しやすい。
ローカルモデルを使う組織にも、同じ層がある。重要なのは、モデルの重みが「悪意ある」かどうかを判定することではない。どのプログラムがモデルを呼び出したか、何を入力したか、その出力が後続の操作を制御したかを識別することである。
Voltaがcultureした既存ツールのギャップは、モデルランタイムの可観測性にもある。多くの端末テレメトリはプロセスとネットワークを追えるが、プロンプト、モデルの出力、アプリケーションの操作との関連までは見えない。
編集者の視点
LLMが攻撃チェーンへ入ると、従来のマルウェア検知には.Oneつ厄介な問題が生じる。悪意あるコード自体が複雑になったのではなく、新たなモデル呼び出しが、ネットワーク、ファイルシステム、タスクオーケストレーションを横断している。防御側が悪意あるプロンプト、異常ドメイン、固定検体だけを探しても、この組み合わせた振る舞いをカバーしにくい。
次の-generationの検知ツールでは、単一の特徴よりも振る舞いの関連付けを多用すると考える。APIリクエスト、ディレクトリ走査、認証情報の読み取り、モデル出力、データの外部送信を同じタイムラインに置く,才能に、Voltaの実際の攻撃方法へ近づく。
今回。过去と違うのは、攻撃者がPromptを書くようになったことではない。モデルの出力が攻撃順序を制御し始めたことである。マルウェアに新しいコントロールプレーンが現れた。
依然として分からないのは、Voltaのモデル呼び出しが主にクラウドAPIで行われるのか、ローカルモデルでも実行できるのかである。ローカル運用が早期に追いつけば、外部AIゲートウェイの監査だけでは明確な盲点が残る。
出典:Talos Intelligence:Appraisal by AI Model Driven Victim Prioritization in the Volta Infostealer