実践

GitHubのAI AgentがAndroidの脆弱性を24件発見——OSSの実力は本物か

GitHubが社内で開発したセキュリティ監査向けAI AgentをOSSとして公開。AOSPに対して走らせたところ、実際のCVEにつながる脆弱性24件を検出した。デモではなく実戦投入の事例として話題を呼んでいる。

文字サイズ

8月初旬、GitHubがブログを公開した。タイトルは「How we found 24 Android vulnerabilities using our open source AI security agent」。

要するにこういうことだ。GitHubが自社開発したAI AgentをAndroidシステムに走らせ、24件のリアルな脆弱性を発見。コードはフルオープンソースで、誰でも再現できる。

Hacker Newsのフロントページにも載り、コメント欄は「おもちゃのデモじゃない」という安堵の声で溢れた。

24件の脆弱性はどのように見つかったか

これはトイ・サンプルではない。Androidのシステムレベルに対する本格的な監査だ。

GitHubセキュリティチームの目標は明確で、公開ベンチマークを回すのではなく、AOSP(Android Open Source Project)のコードに直接ぶつけること。Agentは数週間稼働し、メモリ安全性、権限昇格、情報漏えいなど24件の脆弱性を洗い出した。

ワークフローは4段階に分かれている。

  1. コードインデックス化——Agentがまず対象コードベースを検索可能な単位に分解し、インデックスを構築
  2. パターン推論——脆弱性モデルに基づき、怪しいコードパターン(バッファオーバーフロー、UAF、権限チェック欠落など)を推論
  3. PoC生成——疑わしい箇所に対してテスト入力やfuzz harnessを生成
  4. 人間によるレビュー——セキュリティ研究員が確認し、修正パッチを提出

鍵になるのは4番目のステップだ。AgentはCVEそのものを発行する責任を負わない。「範囲の絞り込み+証拠提示」までを役割とする。

Agentの核となる設計思想:LLMに人間の監査を行わせる

従来のSAST(Static Application Security Testing)ツールはルール依存、つまりパターンマッチングだ。strcpyを見れば警告を出す。誤検出は多い。実際の脆弱性は関数やモジュールをまたがり、データフローの中に潜んでいるため、単純なルールでは捉えきれない。

GitHubのAgentは逆のアプローチを取る。LLMにジュニアセキュリティ研究員の役割を演じさせるという設計哲学だ。

具体的な動作としては、Agentは一連のツールを呼び出せるよう設計されている。

# 簡略化したAgentメインループ
while not done:
    thought = llm(f"現在の疑わしい箇所:{state},試行済み:{history}")
    action = llm(f"上記の思考に基づき、次に何のツールを使うか?\nツール一覧:" +
                 "[code_search, read_file, run_fuzzer, write_poc]")
    observation = execute(action)
    state.update(observation)

主要なツールは以下の通り。

  • code_search:grepに近いが、セマンティック検索に対応
  • read_file:コンテキストウィンドウ管理付きでソースコード片を読み込む
  • run_fuzzer:libFuzzer / AFLを駆動してテストケースを実行
  • crash_triage:クラッシュの重複排除と優先度付け

プロンプト設計についてGitHubは詳細を明かしていないが、ブログで一点だけ触れている。「ここ にバグはあるか」と直接聞くのではなく、「経験豊富な監査員」の思考連鎖をAgentに模倣させるという点。前者はまず脅威モデルを構築してから targeted にチェックするため、ハルシネーションに陥って架空の脆弱性を報告することが減る。後者はハルシネーションを起こしやすく、根拠のない報告を出しやすい。

OSSのリポジトリと再現コスト

リポジトリの所在について:ブログ内でGitHubの「Augments」プロジェクトへのリンクが示されている(記事タイトルにある「open source AI security agent」に対応するツール)。具体的なリポジトリ名はGitHub Blog本文中のリンクを参照してほしい——数ヶ月後にリンク切れして読者が混乱するのを避けるため、ここでは繰り返さない。

ローカルで動かすには以下の準備が必要。

  • GPU:推論用に16GB以上のVRAM(7B〜13Bモデルを想定)。あるいはOpenAI / AnthropicのAPIを直接利用
  • APIキー:Claude / GPTのいずれか
  • 解析対象:中規模なC/C++プロジェクト(Androidのシステムサービス層は数十万行規模)
  • 所要時間:単一脆弱性の再現は数時間〜1日程度。fuzzing時間に依存

一点注意点がある。Agentの「価値」は「推論コスト vs 人件費」のバランスで決まる。npmパッケージをスキャンするだけなら従来SASTのほうが速い。Agentが真価を発揮するのは、コード量が膨大で、脆弱性パターンが複雑で、人間による監査コストが高いシナリオだ。

Burp Suite / CodeQLとの比較

観点CodeQLBurp SuiteAI Agent
適用シーン静的解析、ルール駆動Webペネトレーションテストシステムレベル監査、ロジック脆弱性
速度高速(分単位)インタラクティブ低速(時間〜日単位)
検出漏れ多(ルール不一致)中少(推論による網羅)
誤検知中少中〜多(LLMハルシネーション)
必要な専門知識QLクエリ記述ペンテスト経験プロンプト+セキュリティ知識

AI Agentは代替ではなく補完だ。ルールエンジンでは捉えきれないロジック脆弱性はAgentが得意。逆にAgentが苦手とする既知パターンはルールエンジンが瞬時に出す。

GitHubの対応で興味深いのは、「AIがセキュリティ研究者を置き換える」と主張せず、アンプ(増幅装置)と位置づけている点だ。1人の研究員が従来5人分の作業を行えるようになる。

今回の事例が従来と異なる点

AIによる脆弱性発見自体は過去にもあった。GoogleのOSS-FuzzはLLMでseedを生成し、Meta(旧Facebook)はCVE-Benchの評価基盤を構築し、学会にも多数の論文がある。

しかし今回は3要素がそろう。OSS化+本物のCVE+大企業の後ろ盾。これが初めてのケースだ。

セキュリティ業界への意味合いとして、以下の2点を想定している。

短期(1〜2年):中小企業が社内監査に類似ツールを導入するだろう。コスト構造が変わる。以前はセキュリティ研究者を採用するのに年500万円かかったが、Agent+人員1名なら300万円で、しかもアウトプットは増える。大手セキュリティコンサル会社のジュニアポジションは縮小する。

長期(3〜5年):OSS界隈に10〜20個の「縦割りAgent」——暗号監査、スマートコントラクト監査、バイナリリバースエンジニアリング専売——が登場するだろう。LLMの推論能力が向上し続ければ、脆弱性発見の限界コストはゼロに近づく。

逆コンセンサス的な観察を一つ。この動きはOSSエコシステムにとって追い風だ。以前は中小プロジェクトのメンテナーにはセキュリティ監査の予算がなかったが、Agentで一度走らせるだけで少なくとも低级な脆弱性は除去できる。AOSPのような大規模プロジェクトこそ恩恵が大きく、24件の脆弱性の多くは下流の全ベンダーに影響していた可能性がある。

不確実な点:GitHubは脆弱性の詳細と全再現手順を公開していないため、24件のCVE深刻度分布を独立検証できていない。もし半分以上が「低リスク/情報漏えい」クラスであれば、今回の話の影響力は割り引いて見る必要がある。NVDにCVEレコードが完全に公開されてから判断するのが妥当だろう。

参考リンク:

出典: https://github.blog/security/how-we-found-24-android-vulnerabilities-using-our-open-source-ai-security-agent/