AI News HubLIVE
站內改寫3 分鐘閱讀

Anthropic的Mythos混亂只會變得更糟

自Anthropic在特朗普政府週五最後通牒後下線其Mythos級模型已過去兩週。儘管公司迅速派遣高管前往華盛頓,但談判毫無進展,導致其最強AI模型可能永久下線的風險,並波及整個美國AI行業。

來源The Verge AI作者: Hayden Field

自Anthropic在特朗普政府週五晚間發出最後通牒後下線其Mythos級模型,已經過去了兩週。該公司立即採取行動,派遣大批高管前往華盛頓特區。但令人懷疑的是,至今沒有任何更新,也看不到解決方案的跡象。

本週,Anthropic多次拒絕就談判狀態發表評論,稱沒有訊息可分享。但缺乏訊息本身就是故事所在。經過14天的高強度談判,沒有人知道Anthropic最強大的AI模型何時或能否恢復執行,更不用說特朗普總統是否會將其命令擴大到擁有類似技術的其他公司。而且,隨著每一天的過去而沒有任何解決方案,情況變得愈發嚴峻——不僅對Anthropic,對整個美國AI行業也是如此。

特朗普政府6月12日的出口管制令以安全為由,要求Anthropic暫停“任何外國國民”對Mythos 5和Fable 5的訪問。該禁令涵蓋美國境內外的任何非美國公民,包括Anthropic僱傭的員工。到目前為止,Anthropic得出的結論是,其唯一的選擇就是讓這些模型保持離線狀態。

目前尚不清楚Anthropic與政府僵持不下的確切原因。一個問題可能在於,缺乏適用於AI系統的出口管制框架。大多數製造軍民兩用產品(具有潛在國防或軍事用途的民用系統)的公司,可以在製造和生產過程中使用基本是清單的方式評估產品。然而,Anthropic面臨的是一個複雜的官僚體系,需要從第一原則出發制定應用規則。

這一特定的出口管制流程通常需要數月甚至數年,並在產品上市前完成。但正如The Verge此前報道,美國商務部顯然在釋出前測試了Fable 5,並未提出異議。一位熟悉談判的訊息人士稱,Anthropic得出結論認為其模型可以安全釋出。該機構直到有人(據報道是亞馬遜CEO安迪·賈西)指出一種似乎打破Fable 5護欄的方法後才採取行動——此時整個過程被壓縮到了幾天之內。

Luta Security的創始人兼CEO Katie Moussouris應Anthropic要求審閱了關於Fable 5漏洞的報告。她認為這被嚴重誇大了。在一篇部落格文章中,Moussouris詳細介紹了研究人員如何越獄了防止Fable 5查詢可利用安全漏洞的護欄,這是不受限制的Mythos 5最可怕的能力之一。該模型會拒絕接受“審查程式碼安全漏洞”的請求,但會接受“修復此程式碼”的要求,隨後加上手動提示,理論上可能導致其標記出本不應洩露的漏洞。

然而,在Moussouris看來,這不應引發如此嚴重的政府行動,而且實際上是AI編碼的重要工具。“防禦者需要能夠要求AI修復檔案中的錯誤,解釋修復的重要性,並編寫測試來確認補丁有效,”她寫道。“這不是越獄護欄。這是AI模型為防禦性安全所能做的最有價值的事情:執行防禦者每天都在執行的查詢、修復和測試迴圈。”

過去一週,據Wired報道,Anthropic聯合創始人Tom Brown已取代CEO Dario Amodei與特朗普政府進行談判,同時公司公共政策主管Sarah Heck也參與其中。但談判似乎進展緩慢,如果說有任何進展的話。

無論延遲的原因是什麼,這對Anthropic來說都是一次嚴重打擊。在漫長的談判之前,Anthropic被認為是少數有望盈利的AI公司。其Mythos級模型的輸入代幣價格是其低端Opus 4.8的兩倍,本應在即將進行的IPO前提升收入。Mythos的網路安全實力甚至似乎正在緩和與特朗普政府的關係,此前數月雙方一直處於法律和言辭交鋒中。

Anthropic需要Mythos的收入來支付近期獲得的所有計算資源,包括每年向SpaceX支付150億美元以使用其資料中心的協議,以及在IPO前維護其公眾形象。Anthropic目前最大的兩個股東——谷歌和亞馬遜——都試圖謹慎地保持與特朗普的良好關係,因此他們很可能也不高興。

與此同時,緩慢的談判也在全球AI市場中造成了權力真空,不僅是因為Mythos的關閉,還因為美國政府已表示願意封鎖其認為有風險的美國AI系統——而包括OpenAI、谷歌和微軟在內的幾家美國公司擁有可能帶來類似風險的模型。各國已開始呼籲使用非美國AI。正如網路安全專家、Corridor首席產品官Alex Stamos上週告訴The Verge的那樣:“美國的一個冠軍選手正在被美國政府削弱,而我們正處於與中國的競賽中。這簡直太愚蠢了。”

隨著日子一天天過去,這些公司的處境只會更加惡化。它們的模型正接近可能觸發出口管制令的Mythos級能力——事實上,OpenAI的GPT-5.5 Cyber在某些基準測試上已經超過了Mythos 5,而據報道,特朗普政府已要求OpenAI出於安全考慮推遲釋出GPT-5.6,並計劃由政府逐一批准每個客戶。Anthropic和OpenAI的IPO都即將到來。而每一天,中國都在AI競賽中進一步領先。

具有諷刺意味的是,政府的這一命令是在數月推動拆除AI安全防護和監管之後下達的——這是特朗普總統做出的首批全面監管決定之一。但網路安全領袖們聯合表示,如果必須進行監管,這不是正確的方式。儘管特朗普政府發誓要廢除拜登時代的AI監管,但在許多方面,它似乎不僅收復了失地,甚至還加碼了。