AI Agent 能快速產生程式碼,但 review、驗證與維護未必能同步加速。要評估實際效益,團隊應把焦點放在 diff 上限、行為測試與 ADR,避免交付越快,累積的解釋債反而越多。
AI Agent 寫程式實測:交付更快,團隊卻更難看懂
Hacker News 首頁的一則討論提出了一個很現實的問題:開發者該如何處理那些自己明明不完全理解,卻已經上線的 AI 程式碼?
原討論的 item 編號是 50151036:
https://news.ycombinator.com/item?id=50151036
HN 摘要引用了一名 Meta 工程師發布在 LinkedIn 上的說法:
「我是 Meta 工程師,但用 AI 寫程式時,從未對工作感到如此不適。」
這句話反映的問題不在於 AI 能不能寫出程式碼,而是誰該為交付結果負責。模型可能迅速產出數百行 diff,工程師卻仍得逐行檢查,驗證時間也會吃掉一部分生成效率所帶來的收益。
Meta 工程師為何感到「不適」
傳統程式開發通常存在一套自然的減速機制:
- 工程師親手完成實作。
- 除錯迫使他深入理解控制流程。
- 同事提出 review 意見。
- 上線後的異常再把開發者拉回程式碼。
這個過程雖然慢,卻會留下真正的理解。
LLM 卻壓縮了中間那段歷程。工程師提出需求,模型便回傳完整實作。語法可能正確,目錄結構可能整齊,測試甚至一次就通過。
但程式碼看起來完成了,不代表它能長期維護。
HN 摘要引用的 Meta 工程師並非完全看不懂程式碼;他掌握系統設計,卻未必理解每一處實作細節。
如果完全看不懂,工程師通常不會直接合併。更危險的情況是只懂一半。
開發者知道需求為何存在,也知道結果該怎麼使用;但模型自行補上的遞迴、cache 失效、lock 順序與重試邊界,未必能立即證明正確。
陌生程式碼會讓人謹慎,半懂的程式碼卻容易帶來過度自信。後者更值得警惕。
真正稀缺的從來不是生成速度
本機 coding agent 已能並行修改檔案、執行測試、自動修復 lint,並反覆嘗試編譯。
這會製造一個容易誤導團隊的指標:
單位時間產生的程式碼行數。
這項數字通常會上升,卻不能單獨代表交付效率。團隊還得一起檢視:
- review 花了多少時間;
- 測試是否涵蓋真實行為;
- 線上修復需要多久;
- 三個月後還有誰能接手;
- 模型、依賴套件或內部介面改變時,這項變動會影響多少地方。
生成只是成本的一部分。生成成本下降後,驗證、解釋與組織知識的成本會變得更加突出。
團隊每天多接受 800 行尚未完全理解的程式碼,不代表多了 800 行有效資產,也可能只是多了 800 行解釋債。
使用 Claude Code 或 Cursor 等工具時,最明顯的進步出現在样板程式碼、依賴升級、測試骨架,以及跨檔案的機械式修改。
真正需要工程判斷的部分並未消失:
- 狀態應該放在哪裡;
- 失敗後能否安全重試;
- API 契約是否穩定;
- 哪些約束必須由型別系統確保;
- 發生錯誤時,能否從日誌還原當時的狀況。
提交頻率越高,錯誤被批次複製的速度也越快。
為 AI 程式碼設定可解釋性預算
與其要求開發者「全部看懂」,不如替每個 PR 設定可執行的可解釋性預算。
我會先採用三條規則:
- 高風險模組的單次 diff 限制在約 200 行。超過就拆分 PR,不能把「生成得多」當成合併理由。
- 關鍵實作必須由提交者說明設計選擇、不顯眼的分支與失敗模式。未能解釋的程式碼不得進入主分支。
- 涉及權限、資金、資料刪除、遷移或外部 API 的路徑,必須補充行為測試;長期的設計決策則應寫入 ADR。
200 行不是通用標準。資料庫遷移與協定重構可能天然需要更大的 diff;這項限制真正管控的是認知批次。
目標是讓每次 review 仍有明確邊界。
ADR 是 Architecture Decision Record,也就是架構決策紀錄。它不必很長,但至少該回答:
- 為何選擇這個方案;
- 放棄了哪些替代方案;
- 哪些條件會讓這項決定失效;
- 上線後該如何觀察風險。
如此一來,程式碼的解釋不會只存在聊天視窗,也不必依賴某位工程師三週後的記憶。
用失敗測試篩掉「像程式碼的程式碼」
語法通過率不適合衡量 LLM 的程式品質,因為模型很擅長產生語法正確的程式碼。
更有效的方法是先寫失敗測試,再讓模型完成實作。
以下 Python 範例用來測試價格計算行為:
from decimal import Decimal
def calculate_total(unit_price: str, quantity: int, discount_percent: int = 0) -> str:
unit_price = Decimal(unit_price)
subtotal = unit_price * quantity
discount = subtotal * Decimal(discount_percent) / Decimal(100)
return str(subtotal - discount)
assert calculate_total("19.90", 3) == "59.70"
assert calculate_total("10.00", 2, 25) == "15.00"
try:
calculate_total("10.00", 1, 101)
except ValueError:
pass
else:
raise AssertionError("discount above 100 must fail")
這段程式碼本身無法驗證負數單價、負數數量等異常路徑。若要完整測試這些約束,函式還需要補上輸入驗證。
測試先失敗,通常代表它確實約束了某項目前尚未實作的行為。之後再把實作交給 LLM。
我會同時記錄兩項指標:
- 語法通過率:程式碼能否解析、匯入並執行;
- 行為覆蓋率:既定情境、邊界條件與失敗路徑中,有多少受到測試約束。
前者很容易接近 100%,後者則更能揭露模型是否真正理解需求。
測試應表達外部行為。不能因為實作採用某個內部 helper 就修改測試,也不要為了方便模型,讓測試依賴偶然的細節。
如果生成程式碼不符合測試,就拒絕合併。即使程式碼能通過測試,只要提交者無法解釋關鍵分支,也先不要合併。
這個流程多了一道驗證,卻能把風險放到正確的位置。
編輯觀察
這場討論真正重要的,不是 Meta 工程師的主觀感受,而是生成、驗證與責任開始失去原有的比例關係。
過去,工程師親手寫出大部分實作,理解通常伴隨產出一起發生。LLM 把實作與理解拆開後,提交程式碼的人便成了責任人:他必須證明行為正確,也要讓維護者知道為何可以信任這些實作。
我的判斷是,AI Agent 寫程式下一階段真正稀缺的,不是更長的 context window 或更快的 autocomplete,而是團隊能否以低成本保留因果鏈。失敗測試、ADR、受限的 diff 與可重現的 benchmark,都比單看生成速度更重要。
這與過去 Copilot 式的程式碼補全不同。補全通常只填完眼前的函式;coding agent 則能一次提交多檔案變更,還能自行執行命令。影響範圍更大,審查方式也不能照搬。
但仍有問題沒有答案:當團隊為了提高吞吐量,接受「看不懂也先上線」時,可解釋性預算究竟是真實的工程紀律,還是發布流程上的裝飾?目前沒有足夠證據能下定論。可以確定的是,責任不會轉移給模型。