網絡安全的缺失與人工智能治理
本文探討了Mythos模型在網絡安全領域的突破性能力及其對監管的影響。Mythos在自主網絡攻擊和防禦方面表現出色，發現了大量漏洞，但同時也引發了關於AI安全治理和監管的緊迫討論。文章還分析了美國政府內部關於AI模型訪問控制的爭論，以及全球對AI網絡攻擊威脅的擔憂。
當前AI領域最引人注目的進展並非模型能力的提升，而是網絡安全與AI治理之間的緊張關係。隨着Mythos模型的發佈，美國政府被迫承認災難性風險的真實存在，並開始考慮監管前沿模型的發佈。然而，商務部與情報機構之間關於誰應掌控最強模型的訪問權產生了分歧。
Mythos的能力究竟有多強？多個報告顯示，Mythos在METR評估中的50%成功率已超出可靠測量範圍，而在80%成功率上表現出適度的超趨勢增長。英國AISI的評估表明，Mythos Preview的最終版本相比早期版本有顯著提升，這種持續改進在後台悄然進行。Palisade Research的自我複製基準測試顯示，模型在攻擊弱防禦目標時實現了巨大飛躍，這警示人們：即便當前測試是受控的，未來惡意行為者也會利用類似能力。
在網絡安全領域，Mythos展現了驚人的潛力。XBOW的測試指出，它在源代碼審計方面極其強大，在漏洞驗證上也有良好表現，但判斷力仍顯保守。英國AISI確認Mythos是首個完成其兩個端到端網絡範圍的模型，包括此前無模型能解的“Cooling Tower”。Anthropic的Project Glasswing項目在短短幾周內幫助合作伙伴發現了數千個高嚴重性漏洞，有時甚至相當於一年的發現量。Mozilla報告稱，使用Mythos後，他們在四月份修復的安全漏洞比過去15個月的總和還多。
然而，這種能力也帶來了嚴峻挑戰。Palo Alto Networks指出，Mythos在三週內完成了相當於一年的滲透測試工作。Google發現有人利用AI開發的零日漏洞進行攻擊。國際貨幣基金組織也加入了警告行列。儘管當前實際威脅仍以傳統數據竊取和勒索為主，但專家認為這只是風暴前的平靜。
在監管方面，德國要求訪問Mythos，而美國政府似乎出於政治原因加以阻撓。與此同時，OpenAI推出了自己的網絡安全項目Daybreak。作者強調，CAISI項目僅獲1500萬美元資金，嚴重不足，需要大幅增加投入。文章最後指出，對AI能力的懷疑本質上是對深度學習方向性發展的錯誤押注，而歷史證明這種押注往往失敗。