8 月初 GitHub 發了一篇部落格,標題很直白:「How we found 24 Android vulnerabilities using our open source AI security agent」。
一句話總結:GitHub 自研了一個 AI Agent,在 Android 系統裡挖出 24 個真實漏洞,程式碼全開源,任何人都能複現。
這篇文章熱度也起來了——Hacker News 首頁推薦過,討論串裡基本是「終於不是 demo」的感嘆。
下面把這件事拆開來看。
24 個漏洞是怎麼挖出來的
不是 toy example,是真・Android 系統級稽核。
GitHub 安全團隊的目標很明確:不是跑公開 benchmark,而是直接拿 AOSP(Android Open Source Project)的程式碼開幹。Agent 跑了大概幾週,翻出 24 個漏洞,涵蓋記憶體安全、權限繞過、資訊洩漏幾類。
工作流分四步:
- 程式碼索引——Agent 先把目標程式碼庫拆成可搜尋的單元,建立索引
- 模式推理——基於漏洞模型推理可疑程式碼模式(越界存取、UAF、權限校驗缺失等)
- PoC 生成——針對可疑點生成測試輸入或 fuzz harness
- 人工複核——安全研究員確認,再提報修復
關鍵在第 4 步:Agent 不負責直接出 CVE,只負責「縮小範圍 + 給出證據」。
Agent 的核心思路:讓 LLM 像人一樣稽核
傳統 SAST(Static Application Security Testing)工具靠規則——pattern matching,看到 strcpy 就報警。漏報率高,因為真實漏洞往往跨函式、跨模組,邏輯藏在資料流裡。
GitHub 這個 Agent 的設計哲學反過來:讓 LLM 扮演初級安全研究員。
具體怎麼做?Agent 被設計成可以呼叫一串工具:
# 簡化版 Agent 主迴圈
while not done:
thought = llm(f"當前可疑點:{state},已嘗試:{history}")
action = llm(f"基於以上思考,下一步用什麼工具?\n工具列表:" +
"[code_search, read_file, run_fuzzer, write_poc]")
observation = execute(action)
state.update(observation)
核心工具是這幾個:
- code_search:類似 grep,但支援語意查詢
- read_file:讀取程式碼片段,附帶上下文視窗管理
- run_fuzzer:呼叫 libFuzzer / AFL,跑測試案例
- crash_triage:對當機做 dedup + 優先權排序
prompt 設計這塊 GitHub 沒說太細,但部落格裡點了一句:讓 Agent 模擬「經驗豐富的稽核員」的思維鏈,而不是直接問「這裡有 bug 嗎」。差別在於——前者會先建威脅模型,再針對性檢查;後者會陷入幻覺,憑空報漏洞。
開源位置與複現成本
倉庫位置:部落格裡給的是 GitHub 旗下 Augments 專案(原標題裡的「open source AI security agent」對應的工具)。具體倉庫名 GitHub Blog 那篇文章裡有連結,這裡就不重複貼了——免得過幾個月連結失效誤導人。
本地跑起來要準備:
- GPU:推理用,16GB 顯存起跳(對應 7B-13B 模型);或直接接 OpenAI / Anthropic API
- API key:Claude / GPT 至少一個
- 程式碼目標:一個中型 C/C++ 專案(Android 系統服務層大概幾十萬行 C++)
- 時間:複現單一漏洞,完整跑下來大概幾小時到一天,視 fuzzing 時間而定
注意一個坑:Agent 的「價值」在「推理成本 vs 人工成本」的平衡。如果只是掃一個 npm 包,傳統 SAST 更快。Agent 適合程式碼量大、漏洞模式複雜、人工稽核需要慢工出細活的場景。
和 Burp Suite / CodeQL 的比較
| 維度 | CodeQL | Burp Suite | AI Agent |
|---|---|---|---|
| 適用場景 | 靜態分析,規則驅動 | Web 滲透測試 | 系統級稽核,邏輯漏洞 |
| 速度 | 快(分鐘級) | 互動式 | 慢(小時-天級) |
| 漏報率 | 高(規則匹配不到) | 中 | 低(推理覆蓋) |
| 誤報率 | 中 | 低 | 中-高(LLM 幻覺) |
| 需要的專業知識 | 寫 QL 查詢 | 滲透測試經驗 | prompt + 安全背景 |
AI Agent 不是替代品,是補充。規則引擎搞不定的邏輯漏洞,Agent 有機會;Agent 搞不定的已知 pattern,規則引擎秒出。
GitHub 這件事有趣的地方在於:他們沒有說「AI 取代安全研究員」,而是定位成放大器——讓一個研究員能幹以前 5 個人的活。
我的判斷:這次不一樣的地方
以前也有 AI 挖漏洞的工作:Google 的 OSS-Fuzz 用 LLM 生成 seed,Meta(前 Facebook)做過 CVE-Bench 評測,學術界也一堆 paper。
但這次三件齊全:開源 + 真實 CVE + 大廠背書。這是第一次。
對安全產業的意涵我傾向兩個方向:
短期(1-2 年):中小公司會用類似工具做內部稽核。成本結構變了——以前請一個安全研究員年成本 50 萬,現在 Agent + 一個人 30 萬,產出更高。頭部安全顧問公司的初階職位會縮編。
長期(3-5 年):開源生態會冒出 10-20 個類似的「垂直 Agent」——專攻密碼學稽核、智能合約稽核、二進位逆向。LLM 推理能力繼續提升的話,漏洞發現的邊際成本會逼近零。
一個反共識的觀察:這件事對開源軟體生態是利多。以前中小專案的維護者沒錢做安全稽核,現在能用 Agent 跑一遍,至少把低階漏洞清掉。AOSP 這類大專案反而受益更多——24 個漏洞裡大部分可能影響下游所有廠商。
不確定性:GitHub 沒公布漏洞細節和複現步驟的完整清單,我沒辦法獨立驗證這 24 個 CVE 的嚴重程度分布。如果其中超過一半是「低危/資訊洩漏」類,那這件事的顛覆性就要打折扣。建議等 NVD 上 CVE 紀錄全部公開再做結論。
來源: