AI News HubLIVE
站內改寫4 分鐘閱讀

AI讓網路安全遊戲變得更快,而非全新

AI工具日益先進,同時加速了攻擊者發現和利用漏洞以及防禦者修補漏洞的速度。關鍵在於誰能先獲得最強大的AI。Anthropic的Mythos模型採用分層釋出,但開源模型已展現出同等能力。分層訪問會挑選贏家與輸家,抑制創新,且無法阻止攻擊者獲得強大AI。廣泛訪問前沿AI能讓防禦者更好地即時修補漏洞。監管者應避免武斷分層,採用開放市場準入政策。

來源Hacker News AI作者: aledevv

人工智慧工具持續進化,在提升攻擊者發現和利用網路漏洞速度的同時,也加速了防禦者(如銀行、醫院和公用事業機構)定位和修補漏洞的能力。防禦者獲取最強大網路安全工具的時間越晚,他們遭受潛在攻擊者——無論是國家行為體還是犯罪團伙——利用更先進AI系統發難的風險就越高。

無論美國是否放緩前沿AI模型的公共訪問,攻擊者都會持續推進其目標,他們希望利用先進AI實施間諜活動、勒索關鍵基礎設施、進行金融欺詐等。圍繞高能力AI工具的公開討論不應聚焦於它們是否應該存在,而應關注誰先獲得它們。這一爭論因Anthropic AI模型Mythos的待定釋出而成為熱點。

Anthropic近期宣佈推出名為Fable 5的“Mythos級模型”,並稱其包含防止模型最先進網路漏洞檢測能力被濫用的“防護措施”。Mythos級模型與其前代一樣屬於通用模型,Anthropic表示其檢測網路漏洞的能力是分階段釋出的主要原因。4月“Project Glasswing”——Anthropic的Mythos分級逐步釋出路線圖——公佈時,Mythos僅對50家組織開放,隨後擴大至200家,但因一項禁止外國人使用該模型的聯邦裁決而暫停。

Anthropic聲稱分級釋出旨在防止模型落入網路攻擊者之手。儘管攻擊者獲取強大AI模型可能帶來深遠風險,但新軟體漏洞的出現無法避免,緩解這些風險的方案並非全新。應對網路安全威脅還有比限制頂級工具訪問更有效的策略。

先進AI增強漏洞發現能力並不從根本上改變網路安全的基本公式:軟體漏洞為駭客提供入侵機會,防禦者必須在被利用前發現並修補漏洞。既然軟體漏洞不可避免,而AI工具發現漏洞的能力不斷增強,這些漏洞本就存在,新漏洞也會持續出現。

在自主AI時代,這一動態更加激烈。自主AI系統能夠在有限人工干預下自主執行目標,其多步驟行動速度遠超人類。這改變了漏洞發現和修補的速度,而掌握匹配這一速度的先進AI是防禦者領先攻擊者的關鍵。

均勢問題

儘管Mythos在發現網路漏洞方面優於前代,但測試顯示,Anthropic的Opus 4.6在CyberGym網路安全漏洞復現基準測試中得分為66.6%,而Mythos Preview為83.1%。CyberGym是由加州大學伯克利分校開發的基準,用於評估AI代理處理真實世界網路漏洞的能力。這一差距並非微不足道,但該公開模型同樣能力出眾。而且現有模型已展現出與Mythos許多能力相匹敵的例項。

漏洞修復初創公司Aisle測試了開源模型,看它們是否能匹敵Mythos在4月展示的識別網路安全缺陷的能力。Aisle在相同相關程式碼上執行了所謂的“廉價、開放權重的模型”。這些開源模型被發現同樣能夠發現許多漏洞,且成本低得多。“八個模型中有八個檢測到了Mythos的旗艦FreeBSD漏洞,”Aisle表示,“包括一個僅有36億活躍引數的模型,每百萬token成本0.11美元。一個51億活躍引數的開放模型恢復了27年曆史的OpenBSD漏洞的核心鏈條。”

攻擊者獲得能力與前沿模型相當的AI已不再是理論。已有證據表明,開源模型至少在識別某些網路安全缺陷方面與Mythos相匹敵。事實上,Aisle稱小型開放模型在一次基本安全推理任務上超越了“幾乎所有實驗室”的前沿模型。

全球AI發展的活力不止於此。日本AI開發商Sakana AI近期表示,其新模型Fugu——一種設計用於繞過出口管制的多代理編排系統——“其效能與Fable和Mythos相當”。而中國等敵對國在先進AI領域持續全速前進,這從其在美國出口管制下仍不斷取得AI進展中可見一斑。

美國AI發展並非孤立存在,在美國AI產業中對前沿模型進行分層訪問並不能阻止攻擊者獲得具備高能力識別網路漏洞的AI模型。然而,它卻使那些未被選中的防禦者無法獲得這些前沿模型來掃描程式碼並發現漏洞。

分層訪問製造贏家和輸家,抑制創新

當前沿模型訪問權由私人公司或監管機構分層或限制而非由市場決定時,小角色往往吃虧。鑑於需要網路安全防禦的組織數量龐大,在分層系統中,有些註定被落下。

這種動態不僅使眾多較小機構處於劣勢,而且常讓官僚和政客(往往誤解技術)或最大型企業成為先進AI發展的主導力量,而非市場。防禦性網路安全的最佳、最受使用者歡迎的AI模型無法勝出,市場反而被政府官員任意選擇所扭曲。

這損害了AI開發者之間的競爭,並可能阻礙創新。當公司因提供消費者認為最佳網路安全模型而受獎時,競爭對手有動力投資資源以追求更優模型。相反,監管機制選擇贏家和輸家的架構會激勵公司將資源從研發和安全改進轉向合規、法律和公關,以維持或獲得青睞。

在後一種體系中,既大且先發者往往在制定行業標準方面佔優。而這些事實上的標準並不總是與推進網路安全技術的最佳路徑一致。大公司更容易負擔律師、說客和公關人員,而初創企業剛起步。提高競爭監管門檻可能會以繁文縟節束縛小型新公司,扼殺競爭,使大公司變得自滿。

大公司往往在分層訪問專案中勝出的模式已在實踐中顯現。Anthropic的Project Glasswing雖逐步擴大,但早期訪問嚴重偏向大公司和知名企業。同樣,就在上月,OpenAI在釋出GPT-5.5-Cyber時也宣佈將首先向“經過審查”的防禦者群體開放,其中許多與前者重疊。這並非針對特定實驗室,而是指出美國AI產業中日益增長的趨勢。

值得注意的是,Project Glasswing和Fable 5的公開之後,近期聯邦決定禁止外國人使用Fable和Mythos。這一決定試圖防止Anthropic最強大的模型被惡意行為者武器化,但實際上導致所有使用者被排除在外,包括國內外防禦者。

而在公司等待分層訪問擴大以及聯邦對特定模型公開可用性決定的同時,能力相當的開源模型仍然可供攻擊者利用,而防禦者本可以用那些前沿模型即時修補漏洞。

廣泛訪問前沿AI讓防禦者更好地為網路安全加速做好準備

假設你擁有主要支票賬戶的銀行和攻擊者都能訪問同一先進AI系統,兩者都在尋找銀行的網路漏洞。此時銀行擁有明顯優勢:它可以直接將模型部署到內部原始碼上進行即時掃描。

這使銀行能夠超越攻擊者,無論其是國家行為體、有組織犯罪還是獨立駭客。廣泛訪問最先進AI使銀行、公用事業提供商、雲平臺等能夠預防性地持續掃描並修補漏洞,在攻擊者利用之前。

網路安全中修補漏洞的優勢——在安全漏洞被利用前關閉它——也體現在開源專案中。當Mythos Preview著名地發現了OpenBSD中存在27年的bug時,許多人感到恐慌。OpenBSD是一個以開放性為安全策略的開源作業系統,但這一事件恰恰證明了廣泛訪問最先進AI系統的合理性。

OpenBSD以其高度安全性著稱,但即便是最優秀的工程師也錯過了這個bug長達27年。誠然,程式碼公開後攻擊者和防禦者都能訪問,但攻擊者只能利用漏洞,而防禦者可以永久修補。這並非對開源軟體安全策略的指責,恰恰相反。廣泛訪問最先進AI系統建立在開源安全理念之上,賦予廣泛防禦者(不論大小)尖端工具,強化他們發現並關閉這些漏洞的能力。

監管者應抵制任意分層AI模型訪問和限制模型本身的壓力。美國在AI技術上仍保持優勢,但絕不能自滿或忘記如何走到今天。約束行業領先的AI會抑制美國最大優勢之一:解放的私營部門。

眾多企業家和工程師在企業間競爭,他們比官僚和政客組成的諮詢小組更能評估風險、為防禦者提供成功條件、維持美國在網路領域的優勢。立法者不應透過集中AI和網路安全政策制定,阻礙網路防禦者獲取最有效的漏洞修補工具。更有效的方法是保持創新為先,採取開放和市場化的政策,讓不斷演進的前沿AI網路安全工具得以廣泛使用。