AI生成的拉取請求可能跨多個PR隱藏惡意意圖
傳統程式碼審查一次只評估一個拉取請求（PR），但AI輔助開發引入了新的治理挑戰：惡意意圖可以跨多個看似正常的PR逐步實現。本文提出了一個治理框架，強調需要關注跨PR的意圖、歸因和長期上下文，以檢測和防範AI生成的程式碼中隱藏的安全風險。
隨著AI輔助開發的普及，程式碼審查面臨新的安全挑戰：AI生成的拉取請求（PR）可能被用來逐步構建惡意功能，而每個單獨的PR看起來都是無害的。傳統程式碼審查一次只評估一個PR，無法檢測跨多個PR的長期惡意意圖。
一個典型的攻擊場景是：第一個PR新增日誌記錄，第二個PR引入一個訪問這些日誌的後臺作業，第三個PR修改出站網路處理。每個PR單獨透過靜態檢查，但組合起來就形成了未經授權的資料移動路徑。
這種威脅模型的變化源於AI生成程式碼的特性：代理可能被妥協、提示注入或記憶體中毒，而審閱者通常只能看到最終程式碼變更，無法瞭解產生程式碼的完整提示鏈或推理過程。加上AI助手每天生成大量程式碼，人類審閱者更難關注單個貢獻者或代理的長期行為。
現有的安全工具如SAST掃描器擅長檢測已知漏洞模式，但它們無法理解意圖或跨PR的長期目標。Datadog的安全工程團隊指出，靜態工具很關鍵，但主要捕捉已知不良模式，無法理解意圖。
意圖感知的治理需要兩個層次：第一層是輸出對齊，即檢查生成的程式碼是否合理實現了使用者請求；第二層更難，即判斷請求本身或跨多個請求的模式是否可接受。程式碼可以精確實現一個有害請求，同時完全符合技術規範。
工程領導者應採取具體步驟應對挑戰：首先對映AI生成程式碼進入工作流的路徑，包括IDE助手、編碼代理和自動化賬戶；其次在CI中強制執行高風險檢查，而不是僅做建議；第三保留足夠後設資料以識別變更來源；最後對涉及日誌、資料匯出、後臺作業或認證流程的PR給予額外審查。
跨PR惡意意圖檢測是行業正在發展的方向，任何聲稱完全解決這一問題的工具都應謹慎對待。最終，AI生成程式碼需要治理能力來同時評估單個工件、產生它的指令以及跨多個變更才可見的模式。