谷歌報告首個已知的真實世界AI製造零日漏洞利用

谷歌威脅情報組織（GTIG）日前釋出重磅報告，首次披露了AI在真實攻擊中被用於發現並武器化零日漏洞的案例。報告指出，一個網路犯罪組織利用AI模型發現了一款流行的開源Web管理工具中的兩因素認證（2FA）繞過漏洞。該漏洞並非源於常見的記憶體破壞或輸入驗證錯誤，而是一個高階語義邏輯缺陷：開發人員硬編碼了信任假設，導致在特定條件下可繞過2FA。AI模型透過上下文推理識別了這一邏輯矛盾，生成了包含詳細文件字串和模擬CVSS評分的Python利用指令碼。雖然谷歌未確認使用了Gemini，但指令碼的結構和風格高度符合LLM訓練資料的特徵。該組織原計劃利用此漏洞發起大規模攻擊，但GTIG的主動發現和負責任的披露破壞了這一行動。

除網路犯罪外，國家支援的駭客也在加速利用AI。與中國和朝鮮有關的APT組織展示了複雜的AI輔助漏洞研究方法。例如，UNC2814採用“專家角色越獄”提示，讓AI模擬資深安全審計師，對TP-Link韌體等嵌入式裝置進行預認證遠端程式碼執行（RCE）漏洞審計。更高階的做法是，攻擊者使用GitHub上的“wooyun-legacy”專案——一個整合了超過8.5萬個真實漏洞案例的Claude技能外掛，透過上下文學習提升AI的漏洞發現能力。朝鮮的APT45組織則透過數千次重複提示，遞迴分析不同CVE並驗證概念驗證利用，從而構建更強大的武器庫。此外，攻擊者還使用OpenClaw和OneClaw等代理工具，在刻意弱化的測試環境中最佳化AI生成的負載，提高利用可靠性。

AI還被廣泛應用於繞過防禦。GTIG追蹤到多個惡意軟體家族利用AI實現逃避檢測：PROMPTFLUX透過Gemini API動態修改程式碼，HONESTCUE請求特定的VBScript混淆技術，CANFAIL和LONGSTREAM則生成誘餌邏輯。這些技術使攻擊者能夠即時調整惡意行為，規避靜態簽名。與俄羅斯有關的威脅行為者也被發現使用AI建立混淆網路和生成欺騙性程式碼。

在資訊操作方面，親俄羅斯的“Operation Overload”活動利用AI大規模生成合成媒體和深度偽造內容，製造虛假共識。攻擊者還透過專業化的中介軟體和自動註冊管道獲取匿名化的高階模型訪問許可權，以繞過使用限制。供應鏈攻擊同樣值得警惕：名為TeamPCP（UNC6780）的組織針對AI環境和軟體依賴發起攻擊，利用不安全的整合元件（IIC）和惡意行為（RA）作為初始訪問向量，進而部署勒索軟體。

面對威脅，谷歌並未坐視。除了與安全社群共享發現和緩解措施外，谷歌還積極使用AI進行防禦。例如，Big Sleep代理自動發現軟體漏洞，CodeMender利用Gemini的推理能力自動修復漏洞，證明AI同樣可以成為防禦者的強大工具。