AI與網絡安全未來：開放性為何重要

AI與網絡安全未來：開放性為何重要

繼Mythos和Project Glasswing宣佈後，全球各機構正面臨網絡安全新時代的潛在到來。本文剖析當前形勢，討論開放性的作用，並將網絡安全未來置於更廣闊的AI生態中。

Mythos是什麼？

Mythos是一款“前沿AI模型”，一種能夠處理軟件代碼（及其他眾多任務）的大型語言模型（LLM）。這順應了LLM在代碼相關任務上性能激增的總體趨勢。Mythos的特別之處在於其嵌入的系統：正是系統而非模型本身，使其能快速發現並修補軟件漏洞。理解這一區別對把握AI網絡安全現狀至關重要。

Mythos表明以下系統配方是有效的：充足算力、基於海量軟件數據訓練的模型、用於探測和修補漏洞的框架、速度（由算力和資本支撐）以及一定程度的自主性。這些要素共同作用，可以發現漏洞、找到利用途徑並構建補丁。無論收益還是風險，都藴含於此配方中，而非單個模型。

其他機構可以構建類似的系統。將較小模型嵌入深度安全專業知識的系統，可能以更低成本產生類似結果，這對防禦方尤其有前景。AI網絡安全能力是鋸齒狀的：它不隨模型規模或通用基準性能平滑擴展。模型所嵌入的系統至關重要。

Mythos證明了構建能發現並處理軟件漏洞的AI系統是可行的。我們已知其可能性，且相關工作日益增多，但我們剛剛開始探索其在自主AI（能快速自主行動的AI系統）背景下的意義。

開放性如何成為結構性優勢

隨着識別漏洞的自主系統激增（必然趨勢），開放代碼和工具可幫助平衡競爭。軟件安全已成為跨越檢測、驗證、協調和補丁傳播四個階段的競速賽。開放生態系統將這些步驟分佈於社區，而封閉項目將四個階段集中於單一供應商，形成單點失敗——只有一家組織能查看和修復代碼。開放開發的分佈式結構對此具有魯棒性，在擁有專業安全人員的社區（如Linux內核安全團隊、開源安全基金會及Hugging Face模型供應鏈安全團隊）中尤其強大。

主張封閉系統者常提及專有模糊性——系統底層代碼不可訪問。不幸的是，其保護作用不如以往。AI系統日益擅長逆向工程剝離二進制文件，而大多傳統固件和嵌入式代碼是封閉的、僅含二進制且不再維護。這些代碼構成巨大攻擊面，且隨着AI工具改進而變得可解讀和可訪問。

AI在封閉代碼庫內使用也存在風險。當公司採用AI編碼工具時，若激勵機制錯誤（例如按功能數量而非代碼質量評估工程師），AI加速開發可能比傳統開發引入更多漏洞。這些漏洞位於封閉代碼庫中，僅一家組織可發現和修復，而AI增強的攻擊者從外部發現它們的能力日益增強。更多漏洞更快產生、且侷限於單一組織防火牆後——正是開放生態系統所能避免的不平衡。

這一切的基礎是攻擊者與防禦者之間的能力不對稱。開放模型和工具通過賦予防禦者與攻擊者相同類別的能力（否則這些能力集中於少數資源豐富的實體）來縮小差距。

以開放工具和半自主代理構建防禦

網絡安全防禦正是開源與AI代理可以協同發揮作用的關鍵領域。根據系統卡，Mythos似乎能近乎完全自主運行，但我們基於潛在失控風險而持反對態度。半自主AI代理（其行動類型預設、某些步驟需人工審批）則處於效益與風險的平衡點。在半自主系統中，人保持控制，AI代理負責特定子任務。這可通過運行於組織內部、指定允許工具、技能和系統權限的開放代碼實現。如此，AI代理可用於防禦，在組織自身控制下發現漏洞並協助修補。

半自主方法依賴於人類能夠理解AI代理的行為及原因。若系統基於開放組件（如開放代理框架、開放規則引擎、可審計決策日誌和追蹤），則比黑箱方式遠為可能。“人在環路”只有在人能觀察環路時才有意義。

公司無需從零構建這些能力。開源安全工具生態豐富，包括漏洞掃描器、入侵檢測系統、日誌分析器和模糊測試框架，可與AI代理集成。

為何這對高風險組織尤為關鍵

對於高風險組織，從開放、可審計的基礎出發，意味着安全團隊可以實際檢查監控機制，而非信任單一供應商的聲明。這尤其涉及敏感數據和過程時——敏感材料通常不應流經外部AI提供商。開放系統可由內部安全專家嚴格分析、基於組織自身安全數據進行微調、修改以產生特定組織的監督機制，並在完全於組織內基礎設施中運行，一切置於適當防火牆後。

前進之路

攻擊者將開發利用漏洞的模型。重要的應對策略是擁抱透明實踐：開放安全審查、發佈威脅模型、共享漏洞數據庫以及任何團隊均可採用的開放工具。各組織以專有工具孤立保護自身的方案，無法應對正於自身社區內協調並分享技術的攻擊者。

未來AI網絡安全更多由圍繞模型構建的生態系統塑造，而非單一模型。開放性為防禦者提供了可見性、控制力、社區及共享基礎設施，以保持領先。