AI與網路安全未來：開放性為何重要

AI與網路安全未來：開放性為何重要

繼Mythos和Project Glasswing宣佈後，全球各機構正面臨網路安全新時代的潛在到來。本文剖析當前形勢，討論開放性的作用，並將網路安全未來置於更廣闊的AI生態中。

Mythos是什麼？

Mythos是一款“前沿AI模型”，一種能夠處理軟體程式碼（及其他眾多工）的大型語言模型（LLM）。這順應了LLM在程式碼相關任務上效能激增的總體趨勢。Mythos的特別之處在於其嵌入的系統：正是系統而非模型本身，使其能快速發現並修補軟體漏洞。理解這一區別對把握AI網路安全現狀至關重要。

Mythos表明以下系統配方是有效的：充足算力、基於海量軟體資料訓練的模型、用於探測和修補漏洞的框架、速度（由算力和資本支撐）以及一定程度的自主性。這些要素共同作用，可以發現漏洞、找到利用途徑並構建補丁。無論收益還是風險，都蘊含於此配方中，而非單個模型。

其他機構可以構建類似的系統。將較小模型嵌入深度安全專業知識的系統，可能以更低成本產生類似結果，這對防禦方尤其有前景。AI網路安全能力是鋸齒狀的：它不隨模型規模或通用基準效能平滑擴充套件。模型所嵌入的系統至關重要。

Mythos證明了構建能發現並處理軟體漏洞的AI系統是可行的。我們已知其可能性，且相關工作日益增多，但我們剛剛開始探索其在自主AI（能快速自主行動的AI系統）背景下的意義。

開放性如何成為結構性優勢

隨著識別漏洞的自主系統激增（必然趨勢），開放程式碼和工具可幫助平衡競爭。軟體安全已成為跨越檢測、驗證、協調和補丁傳播四個階段的競速賽。開放生態系統將這些步驟分佈於社群，而封閉專案將四個階段集中於單一供應商，形成單點失敗——只有一家組織能檢視和修復程式碼。開放開發的分散式結構對此具有魯棒性，在擁有專業安全人員的社群（如Linux核心安全團隊、開源安全基金會及Hugging Face模型供應鏈安全團隊）中尤其強大。

主張封閉系統者常提及專有模糊性——系統底層程式碼不可訪問。不幸的是，其保護作用不如以往。AI系統日益擅長逆向工程剝離二進位制檔案，而大多傳統韌體和嵌入式程式碼是封閉的、僅含二進位制且不再維護。這些程式碼構成巨大攻擊面，且隨著AI工具改進而變得可解讀和可訪問。

AI在封閉程式碼庫內使用也存在風險。當公司採用AI編碼工具時，若激勵機制錯誤（例如按功能數量而非程式碼質量評估工程師），AI加速開發可能比傳統開發引入更多漏洞。這些漏洞位於封閉程式碼庫中，僅一家組織可發現和修復，而AI增強的攻擊者從外部發現它們的能力日益增強。更多漏洞更快產生、且侷限於單一組織防火牆後——正是開放生態系統所能避免的不平衡。

這一切的基礎是攻擊者與防禦者之間的能力不對稱。開放模型和工具透過賦予防禦者與攻擊者相同類別的能力（否則這些能力集中於少數資源豐富的實體）來縮小差距。

以開放工具和半自主代理構建防禦

網路安全防禦正是開源與AI代理可以協同發揮作用的關鍵領域。根據系統卡，Mythos似乎能近乎完全自主執行，但我們基於潛在失控風險而持反對態度。半自主AI代理（其行動型別預設、某些步驟需人工審批）則處於效益與風險的平衡點。在半自主系統中，人保持控制，AI代理負責特定子任務。這可透過執行於組織內部、指定允許工具、技能和系統許可權的開放程式碼實現。如此，AI代理可用於防禦，在組織自身控制下發現漏洞並協助修補。

半自主方法依賴於人類能夠理解AI代理的行為及原因。若系統基於開放元件（如開放代理框架、開放規則引擎、可審計決策日誌和追蹤），則比黑箱方式遠為可能。“人在環路”只有在人能觀察環路時才有意義。

公司無需從零構建這些能力。開源安全工具生態豐富，包括漏洞掃描器、入侵檢測系統、日誌分析器和模糊測試框架，可與AI代理整合。

為何這對高風險組織尤為關鍵

對於高風險組織，從開放、可審計的基礎出發，意味著安全團隊可以實際檢查監控機制，而非信任單一供應商的宣告。這尤其涉及敏感資料和過程時——敏感材料通常不應流經外部AI提供商。開放系統可由內部安全專家嚴格分析、基於組織自身安全資料進行微調、修改以產生特定組織的監督機制，並在完全於組織內基礎設施中執行，一切置於適當防火牆後。

前進之路

攻擊者將開發利用漏洞的模型。重要的應對策略是擁抱透明實踐：開放安全審查、釋出威脅模型、共享漏洞資料庫以及任何團隊均可採用的開放工具。各組織以專有工具孤立保護自身的方案，無法應對正於自身社群內協調並分享技術的攻擊者。

未來AI網路安全更多由圍繞模型構建的生態系統塑造，而非單一模型。開放性為防禦者提供了可見性、控制力、社群及共享基礎設施，以保持領先。