全球銀行為何對Anthropic最新AI模型如此擔憂
Anthropic的Mythos模型發現了數千個嚴重安全漏洞，包括許多長期未被察覺的零日漏洞。全球銀行擔心網絡犯罪分子會利用該技術進行搶劫。Anthropic已向包括微軟、亞馬遜在內的防禦聯盟提供訪問權限，但澳大利亞、英國和歐洲的銀行尚未獲得。專家建議用户保持警惕並更新系統。
文章情報
要點
- Anthropic的Mythos模型能發現大量零日漏洞，對銀行系統構成威脅。
- Anthropic已投入1億美元用於修復漏洞，並與多家科技公司合作。
- 銀行因使用老舊系統而特別脆弱，但客户存款有保險保障。
- 個人應保持軟件更新並防範網絡釣魚攻擊。
為甚麼重要
這條新聞值得關注，因為Anthropic的Mythos模型能發現大量零日漏洞，對銀行系統構成威脅。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
著名美國銀行劫匪威利·薩頓曾以“因為錢在那裏”而聞名，他花了40年搶劫銀行。如今，人工智能可能成為新一代“銀行劫匪”。Anthropic公司的最新AI模型“Mythos”在內部測試中發現了數千個嚴重安全漏洞，覆蓋所有主流操作系統和瀏覽器。其中許多是“零日漏洞”，即開發者需要立即修復的致命缺陷，有些甚至潛伏了數十年未被發現。
全球銀行業對此高度警惕，因為金融系統依賴大量老舊技術，極易受到攻擊。Anthropic已向一個由微軟、亞馬遜網絡服務、蘋果、思科和Linux基金會等12家合作伙伴組成的防禦聯盟提供了模型訪問權限，並承諾投入1億美元（約1.4億澳元）的使用額度以及400萬美元（約560萬澳元）的開源補助金，用於發現和修復這些漏洞。此外，還有40多家機構獲得了訪問權限，包括多家美國銀行。但令人擔憂的是，澳大利亞、英國和歐洲的銀行尚未獲得訪問權限。更令人不安的是，Anthropic近日證實正在調查彭博社的一篇報道，稱一小羣未經授權的用户可能已經獲得了對Mythos的訪問權限，不過目前沒有跡象表明這種訪問是惡意的。
上週，世界各地的監管機構和政策制定者齊聚華盛頓參加國際貨幣基金組織春季會議，會議主要關注伊朗戰爭，但與會者也就這一新興的銀行業網絡安全威脅發出了一系列警告。銀行業不僅因為“錢在那裏”而成為誘人目標，還因為該行業運行着許多遺留系統——數十年的老技術，可能特別容易受到此類攻擊的損害。
對於個人用户而言，不必過度恐慌。許多國家有強有力的存款保險制度。例如在澳大利亞，政府支持的金融索賠計劃為每位客户提供最高25萬澳元的存款保障。澳大利亞證券和投資委員會也確保銀行調查欺詐交易，並在客户無過錯的情況下進行賠償。因此，將現金取出藏在牀墊下可能並非明智之舉。但銀行確實需要（也正在）急於修補這些漏洞。我建議用户定期更新計算機和智能手機，確保使用最新的操作系統和銀行應用。未來可能會有更多更新，因為新漏洞不斷被發現和修復。同時，需要時刻警惕通過電子郵件和短信試圖獲取銀行憑證的網絡釣魚攻擊。
從長遠來看，Mythos暴露了一個挑戰：防禦比攻擊難得多。軟件是人類建造的最複雜的產品之一，因此幾乎不可能確保其毫無漏洞。這使我們陷入了與“壞人”之間的無休止競賽，需要在漏洞被利用之前發現並修復它們。例如，歐盟高調發布了年齡驗證應用，旨在作為新興社交媒體、色情及其他年齡限制內容訪問法律的基石。然而，數小時內，安全專家就發現了未成年人可以輕易利用的漏洞。在最關鍵的場景中，我們可以嘗試數學證明軟件沒有錯誤。例如，Beneficial AI Foundation剛剛宣佈了一個雄心勃勃的“登月”項目，旨在證明流行消息應用Signal如宣稱的那樣沒有錯誤且保護隱私。但這樣的努力目前仍是例外而非常態。也許AI的進一步進步能夠很快逆轉這一局面。