MAGA權力鬥爭可能決定Anthropic的命運
Anthropic突然撤銷了其最強大的AI模型Fable 5和Mythos 5的訪問權限,原因是美國政府發佈了出口管制指令。此前有報道稱亞馬遜CEO安迪·賈西向特朗普政府報告了模型的安全漏洞,但Anthropic CEO達里奧·阿莫代伊在電話會議上反駁了政府的擔憂。這是特朗普政府第二次對Anthropic採取嚴厲法律行動。
上週五,Anthropic震驚了人工智能界,宣佈撤銷對Claude Fable 5和Mythos 5的訪問權限,這兩個強大的模型僅僅在三天前才發佈。Anthropic表示,政府“發佈了一項出口管制指令,暫停任何外國國民(無論在美國境內還是境外)對Fable 5和Mythos 5的所有訪問。”由於Anthropic沒有辦法限制僅美國人訪問,這實際上等於對該技術實施了禁令。
Anthropic和美國政府都沒有提供該命令的理由或法律依據的太多細節。但週末期間,多家新聞機構發表了描述週五公告前談判過程的文章。最詳細的是一篇Politico的文章,描述了一場“高層官員在24小時內瘋狂努力,試圖説服公司自願撤回一款新發布的人工智能模型,官員們認為該模型存在安全風險。”
包括Politico和The Information在內的多家媒體報道稱,亞馬遜CEO安迪·賈西向特朗普政府通報了Anthropic頂級模型的潛在漏洞。亞馬遜顯然發現有可能繞過Fable的護欄,從而獲取Anthropic自四月發佈Claude Mythos預覽版以來一直未向市場提供的一些強大的網絡安全能力。
Politico報道稱,在週五的電話會議中,Anthropic CEO達里奧·阿莫代伊“反駁了政府的擔憂,辯護了護欄的安全性,並稱發生的繞過行為是特定的,不會構成像更廣泛越獄那樣的風險。”Anthropic在週五宣佈暫停Fable訪問權限的帖子中也表達了類似觀點:“目前還沒有測試人員能夠找到一種通用越獄方法——一種能夠廣泛繞過模型安全防護、解鎖一系列網絡能力的方法。”
但據Politico報道,高級行政官員沒有被阿莫代伊的論點打動。他們對Anthropic最強大的模型實施了出口管制。這是特朗普政府第二次對Anthropic採取嚴厲的法律行動。今年二月,國防部將Anthropic列為供應鏈風險,實際上禁止軍方以及某些軍事承包商使用其模型。該行動至今仍在法庭上爭執,一名聯邦法官質疑政府的理由是否只是藉口。
“管理法規中沒有任何內容支持這種奧威爾式的觀念,即一家美國公司僅僅因為表達與政府不同的意見,就可以被標榜為潛在的對手和破壞者,”法官Rita Lin在三月份的裁決中寫道。
在我的播客AI Summer的最新一期中,法律學者Alan Rozenshtein告訴我,週五的出口禁令在法律上可能更有依據。“從法律角度看,政府所做的事情在表面上是合理的,”他在談到週五的命令時説。“他們確實有這些出口管制,而且這些出口管制確實可以創造一種事實上的許可制度。”
因此,特朗普政府很可能有能力嚴重損害Anthropic,如果它願意的話。大問題是特朗普是否想這樣做。