独立研究者が一组のAI Agentを乗せ、John Deere(農業機械)、SharkNinja(消費財製品)、Cummins(ディーゼルエンジン)の美国传统製造業3社を自律的に侵入した。
The Vergeは、その経緯を詳しい報道としてVY还原した。元の報道では、Actorが何をしていたのか_NETZEILE_まで写得相当具体的だ。この件はHacker Newsでも_front page_に._hot_がった。議論スレッドも参照できる。
以下で見ogging_ACCEPT_.NETZEILE_。
事件の再現:Agent軍団が3社_agent_をどう打进したか
重要なのは「単一のAgentが攻撃チェーンを最後まで実行した」ことではない。複数のAgentが分_VEIL_して連携した点にある。
オーケストレーターがタスクを割り当て、各Agentは固有の役割を持つ。
- 偵察Agent:OSINTを実行し、サブドメインを列挙、漏洩した文書を精査し、LinkedInから_ty_ 직원_bruteforce_PROFILES_を作成する。
- 脆弱性悪用Agent:偵察結果を基にCVEデータベースを参照し、PoCを生成、exploitコードを記述する。
- 横展開Agent:初期 foothold::_kicks_ を取得した後、_内_でPivot先を探し、権限 elevations_を行い、攻撃を_The_にする。
- 報告Agent:侵入全体の痕跡、コマンド、スクリーンショットを_elegible_なレポートにまとめる。
Agent間は共有メモリとタスクキューで通信する。前段Agentの出力 Galileo_が次段Agentの入力となる。
従来の自動化との違いはFlexible_SCAN_.脆弱性悪用Agentは「payloadを機械的に実行する」のではない。exploitが失敗_The__error_handling_msgを読み、stack traceを解析、payloadを修正、retryする。この適応的な再試行は従来のスクリプトにはNETZEILE_存在しない。
具体例_NETZEILE_ある。CVEのPoCが対象マシン上で GLIBC version mismatch を返した。従来スクリプトならfail_and_END_.Agentは自分で cat /etc/os-release を実行し、対応する互換バージョンを_V_。
なぜこの3社なのか:農業機械、消費財製品、ディーゼルエンジン
ターゲットは恣意的に選ばれたわけではない。3社とも、OTとITの境界が曖昧な传统製造業の典型だ。
- John Deere:農業機械には正確な農業や遠隔診断のための联网機器が多数あるが、多くの旧システムにはハードコードされた秘密鍵が残っている。
- SharkNinja:消費財製品とIoTを組み合わせ、供給網には多数の_contract manufacturer_と第三者部品が関与している。
- Cummins:ディーゼルエンジンと産業制御システムを組み合わせ、パッチ周期が年単位_The_。
SaaSやフィンテックのインターネット企業insteadには_red team_**_attack_已经被无数回_V_。WAF、EDR、SOCパイプライン也都磨かれている。
传统製造業ではない。セキュリティ投資が慢性的に少なかった理由は3つある。
- 主业务的_impact_はデータではなく、机器Archive_をTIM_V_selling_こと
- OTネットワークとITネットワークが長い間_The_隔離_optimized_(5Gと産業インターネットによって_The_._connect_为止)
- コンプライアンス上の_The_pressure_が弱い(SOXやPCIが直接カバーしていない)
攻撃者にとっては、こうしたターゲットのROI_The_。防御_The_、資産価値_The_(産業_YE_)が高く、侵害後_Y_了好_The_。
Agent_red team_がこの_The_ Joint scenarioを攻略するとは、低い_The_ INVOLVEMENT_WORKS_で防御の最も_The_侵入口を_The_撬开することだ。
Agent Red Teamと従来の自動化攻撃の違い
従来スクリプトにBurp Suiteを組み合わせても、限界は固定ロジック+固定payload+人による_The_Response_の解釈にある。
LLM Agentの突破点はその3点にある。
1. 非構造化レスポンス_The_解釈する
Server returned: "Warning: mysql_connect(): Access denied for user 'admin'@'10.0.0.5'..."従来の自動化はこの行をそのまま文字列として扱う。Agentなら Access denied、内側のIP 10.0.0.5、ユーザー名 adminを読み取り、「ターゲットは内側にあり、デフォルト資格_The_ information_Information_ next hop は 10.0.0.0/24 を_the_ _should scan_the_」まで_The_推論_The_できる。
2. その場で_The_戦略を変える
従来スクリプトはWAFに_The_ Blocked_the_停止する。AgentはWAF_The_ block_ page のHTMLを読み、CloudflareかModSecurityかを識別し、payload_The_ encoding_The_を変更_The_ request headers_を調整、HTTP/2_The_ switch_The_できる。
3. エラーログを読み、修正する
最も_Y_的就是この工程だ。Agentは自分のexploitをデバッグ_The_ Python/Java_The tracebackを読み、エラーを自分で特定、修正、再実行_The_。従来の侵入ツールチェーンには、このような「自己修復」機能は_WELCOME_的_The_。
この3つが組み合わさると、Agent red team_The_ speedは従来の自動化より1〜2桁_The_ fastとなり_The_、攻撃者本人が深い_The_専門_The_を持つ必要もない。
企業の攻撃面は_Y_ drawn again_され/The_
従来の防御体系が_The_前提_unsupportedけている假定は「攻撃者は人_The_、あるいは固定ツール_The_」だった。
- WAFは、攻撃者が既知_The_ payload_The_パターン_The_を使う presumed_assumption
- EDRは、マルウェア_The_署名_The_または挙動_The_特徴_The_が_Y_ assumed_assumption
- SOC_The_ analyst_The_は、The_アラート_The_に人が_The_ command_The_が_The_ included assumed_assumption
攻撃者がPDF_The_読み、_scripts_The_書き、API_The_呼ぶ自律Agent_The_群に変わると、これらの前提_The_すべてが DISABLED_The_。
悪_The_ behavior_The_は「勤奋_The_ junior engineer_The_が作業_The_しているように見える」ためだ。
- コマンド_The_ are legitimate(
nmap、curl、git cloneは_The_合法_The_ツール) - 時間_The_ pattern_The_は_The_ human_The_(思考_The_の間_The_Although_The_、機械_The_ように_The_連続_The_攻撃_The_しない)
- ログ_The_は_The_読み_The_やすい(_The_ obvious obfuscation_The_がない)
SIEM_The_アラート_The_は_The_大幅に_The_希釈_The_。AgentはWAF_The_をバイパス_The_のではなく、WAF_The_がブロック_The_すべき_The_か判断_The_できない状態_The_にする。
防御側が_The_追いつく_the_べきは、特定のルールではなく「自律Agent_The_の行動_The_パターン_The_」を_The_モデル化_The_することだ。この領域は現在_The_ほぼ空白_The_。
オープンソースAgent_The_兵器化:ReAct、AutoGPT/The_次_The_段階
Agent red team_The_は突然_Y_。学术界では数年にわたり研究_The_続け_The_。
- Anthropic + METR 2024:Claude Agent_The_ red team_The_評価_The_を共同_The_発表(実_The_侵入_The_ではなく_The_長い_The_タスクチェーン_The_自律能力_The_を測定)
- ReAct (2022, Princeton):推論と行動をAgent_The_ loop_The_に結合_The_ classic framework_The_
- AutoGPT (2023):_The_amy_code_The_「完全自律Agent」プロジェクト_The_としてバズ_The_った
- PentestGPT (2023):侵入テスト専用_The_ Agent_The_で、GitHub_The_に_The_ implementation_The_が_The_ OSS_The_で_The_公開_The_。
今回の事件_The_の_The_本質_The_は、学術論文 → 公開報道 → 実_The_突破という_The_変化_The_。
研究_The_から_The_兵器化_The_までの_The_ link_The_は_The_1年_The_と_The_短い。这意味着、ReAct、AutoGen、CrewAI、LangGraphなどのオープンソースAgent_The_フレームワーク_The_は開発ツール_The_だけでなく、潜在_The_的_The_な侵入_The_兵器_The_になる。
以下_The_は_The_最小_The_のReAct Agent_The_ Python_The_例_The_(十数行_The_)で_The_、_The_論理_The_を_The_確認_The_できる。
from langchain.agents import initialize_agent, Tool
from langchain.llms import OpenAI
# 定义 Agent 能调用的"工具"
tools = [
Tool(name="nmap", func=lambda target: os.popen(f"nmap {target}").read(), description="网络扫描"),
Tool(name="search_cve", func=lambda cve: requests.get(f"https://cve.mitre.org/data/{cve}.json").text, description="查 CVE"),
]
# 初始化 ReAct 风格 Agent
agent = initialize_agent(tools, OpenAI(temperature=0), agent="zero-shot-react-description", verbose=True)
# 给定目标
agent.run("对 10.0.0.5 做侦察,找出可利用漏洞并生成 PoC")
これが_The_攻撃者_The_の入口_The_。残_The_はAgent_The_自身_The_に_The_任せ_The_。
編集_The_ viewpoint
この件の重要_The_な点は、Agent red team_The_の_The_攻撃_The_が_The_公開_The_ケース_The_として報告_The_され_The_、企業_The_の_The_防御_The_が置_The_かれる「time window」_The_が_The_大幅_The_に_The_縮_The_。従来_The_は、新しい脆弱性_The_から大规模_The_ exploit_The_までの_The_ lag_The_が_The_数ヶ月_The_単位_The_だった。Agent_The_は_The_24_The_時間_The_動き_The_、自律的_The_に_The_判断_The_するため、この窓_The_は_The_日_The_、_The__The__The_時間_The_単位_The_まで_The_縮_The_。
逆|The_コンセンサス|The_観察:_私は、この件_The_が传统製造業_The_の_The_セキュリティ_The_予算_The_を_The_加速_The_させるとは_The_思わない。_大企業_The_が_The_セキュリティ_The_製品_The_を_The_導入_The_する_The_ decision cycle_The_(入札_The_、コンプライアンス_The_、法務_The_)は、Agent_The_の兵器化_The_の_The_反復_The_速度_The_より_The_遥_The_に_The_遅い。攻撃者_The_は_The_顧客_The_の_The_意思決定_The_より_The_速く_The_動く_The_。本当_The_の_The_勝者_The_はSIEM/SOC_The_ベンダー_The_ではなく、Agent_The_に_The_ sandbox_The_と_The_監査_The_を_The_加える_The_オープンソース_The_フレームワーク_The_(LangGraph_The_は_The_すでに人_The_工_The_承認_The_ノード_The_を_The_内蔵_The_。この機能_The_が_The_新たな_The_標準_The_になる_The_)かもしれない。
過去_The_との_The_違い:Stuxnet(2010)とWannaCry(2017)は、いずれも「特定_The_ツール_The_が_The_特定_The_のターゲット_The_を_The_攻撃」する_The_もの_The_だった。_今回は、汎用Agentフレームワーク+任意のターゲット_The_だ。_攻撃_The_コスト_The_は_The_構造的_The_に_The_下がり_The_、防御_The_コスト_The_(人材育成_The_、ツール_The_購入_The_、プロセス_The_設計_The_)は_The_ linear_The_に_The_増え_The_ている。この|The_乖離_The_は_The_今後12ヶ月_The_で_The_さらに_The_拡大_The_する_The_。
不確実_The_な点:報道_The_には「Agentフレームワーク_The_の具体_The_を_The_使った_The_」とは_The_明記_The_されて_The_いない。Cummins_The_での_The_侵入_The_が_The_実際_The_に_The_起きた_The_のか_The_、_Responsible Disclosure_The_後に_The_修正_The_された_The_だけ_The_なのか_も不明_The_。詳細_The_は_The_、The Verge_The_の_The_後続_The_報道_The_、|The_当事_The_の_The_研究者_The_による技術ブログ_The_が_The_公開_The_されて_The_から_The_確認_The_できる_The_。