克勞德的Mythos AI模型可能給您的資金帶來安全問題
Anthropic開發的Claude Mythos AI模型能夠自動發現軟件漏洞,既可用於防禦也可能被濫用於攻擊,從而加速網絡犯罪。監管機構和金融部門正評估其風險,專家警告AI可能將網絡犯罪從技能問題轉變為規模問題。
文章情報
要點
- Claude Mythos是一款具備強大編碼和網絡安全能力的高級AI模型,能夠識別軟件漏洞。
- 該技術具有雙重用途,既能幫助防禦者修復漏洞,也可能被攻擊者利用。
- 監管機構和金融機構正在評估風險,因為AI可能將網絡犯罪從技能驅動轉變為規模驅動。
- 儘管存在擔憂,但許多數據泄露仍源於弱密碼等基本問題,並非高度複雜的AI攻擊。
為甚麼重要
這條新聞值得關注,因為Claude Mythos是一款具備強大編碼和網絡安全能力的高級AI模型,能夠識別軟件漏洞。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
本文分析了AI在網絡安全領域可能帶來的深遠影響。近年來,網絡犯罪的一大障礙是技術水平門檻。雖然勒索軟件和犯罪即服務平台降低了門檻,但平均犯罪者與高級黑客之間仍有差距。然而,Anthropic通過“玻璃翼”項目開發的Claude Mythos模型正在改變這一局面。
與一般聊天機器人不同,Mythos具備強大的編碼、推理和網絡安全能力。據Anthropic稱,該系統能夠識別並利用軟件漏洞,其水平之高迫使公司限制其公開訪問。這一變化標誌着網絡犯罪傳統範式正在被顛覆——攻擊者不再受限於技能,而是受限於算力。
監管機構和金融機構對此高度警惕。據《金融時報》報道,英國等國監管機構已開始評估Mythos帶來的風險,擔心AI驅動的漏洞發現速度可能超過現有防禦能力。路透社也報道稱,亞洲多家銀行已重新評估AI和網絡安全策略。醫療、教育、能源等領域的機構同樣面臨風險,因為它們依賴老舊且高度互聯的數字系統。
然而,專家提醒不必過度恐慌。《衞報》指出,許多成功攻擊仍源於弱密碼、未修補系統等基本問題。AI固然可能加速網絡犯罪,但組織仍需先做好基礎防護。
Claude Mythos並非“邪惡AI”。Anthropic將其定位為防禦工具,幫助合作伙伴修復漏洞。這恰恰體現了技術的雙重用途——同一能力既可防禦也可攻擊。網絡安全專家將之稱為“雙重用途問題”,就像加密既能保護隱私也能隱藏犯罪通信。
最重要的是,網絡犯罪一直在隨技術進化。從在線銀行到加密貨幣,再到雲計算和智能手機,犯罪者總能適應。AI可能不會改變這一趨勢,但它可能將網絡犯罪從技能問題轉變為規模問題。過去需要高手的操作,現在可能由AI自動化完成。這迫使政府和企業思考:如何監管既能防禦又可能被濫用的系統?如何應對可能比補丁週期演化更快的威脅?
也許,Mythos辯論的最大教訓不在於某個具體模型,而在於當AI深入嵌入網絡安全的攻防雙方時,遊戲規則將如何改變。