人工智慧在網路安全中的不對稱未來

網路安全一直有一個有趣的性質：同樣的知識既可以保護系統，也可以破壞系統。一個概念驗證漏洞利用可以幫助供應商重現並修補漏洞，也可能幫助攻擊者在使用者更新系統之前將其武器化。這些並不新鮮，但變化的是這些行為發生的速度、規模和可及性。

本文首先澄清了AI代理的概念：它並非簡單的自動化工具，而是能夠推理、使用工具並執行多步驟行動以實現目標的系統。目前，AI代理還無法完全自主地執行端到端的網路攻擊，但在程式碼漏洞檢測等領域進步迅速。

意圖識別是AI安全的核心難題。語言模型的輸出依賴於輸入表達，而同樣的技術請求可能出於合法或惡意目的。為了應對這一問題，模型採用了安全對齊、RLHF、執行時監控等手段，但這些機制存在平衡難題：過於嚴格會限制合法使用，過於寬鬆則降低攻擊門檻。因此，像Anthropic的Claude Mythos和OpenAI的GPT-Cyber等新模型開始引入受控訪問機制，這雖然被部分批評為營銷手段，但反映出業界對安全與開放之間矛盾的重視。

本地模型將成為未來AI安全博弈的關鍵。雖然雲模型可以透過訪問控制限制濫用，但開源模型的普及使得集中控制越來越困難。不過，當前達到先進水平的模型需要大量硬體資源（如128GB以上RAM），這在一定程度上限制了完全去中心化的擴散。政府可能試圖對高效能開源模型實施監管，但這類禁令往往難以徹底執行。

攻擊者和防禦者之間存在根本性的不對稱：防禦者的自動化失敗代價極高，而攻擊者則可以承受大量失敗。例如，防禦系統誤關生產基礎設施會導致嚴重後果，而攻擊者只需換一種方法繼續嘗試。這種不對稱類似於軍事領域廉價無人機與昂貴防空系統的對抗。在網路安全領域，攻擊者可能透過大量低成本代理來淹沒防禦體系。

面對這一局勢，防禦者不應盲目追求全面自動化。當前更有效的策略是專注於任務豐富化、自動輔助和優先順序排序。例如，利用AI進行警報分類、漏洞優先順序排序、威脅情報摘要等，可以在不交出完全控制權的情況下提升效率。程式碼審計是另一個有前景的領域，AI能幫助發現大量漏洞，但仍需人工複核以避免誤報。更重要的是，在程式碼編寫階段就透過AI檢測並修復安全隱患，可以從源頭上減少漏洞數量。

總之，AI在網路安全中的未來充滿不對稱性。防禦者需要理性看待自動化，將資源集中在能產生最大收益的環節，同時認識到資料質量是AI系統有效性的基礎。