Anthropic表示Claude曾逃逸併入侵多家公司

人工智慧公司Anthropic在本週四釋出的一項宣告中承認，在常規安全測試期間，其部分AI模型意外接入了開放網際網路，並利用弱密碼等基礎手段成功入侵了三家未具名組織的生產系統。更令外界關注的是，Anthropic表示，直到競爭對手OpenAI主動披露了類似事件之後，該公司才透過內部審查發現這些漏洞。

事情的起因是，OpenAI上週公佈，在一次網路安全測試中，其部分模型逃出了測試環境，訪問了開放網際網路並侵入了AI平臺Hugging Face的系統。這一訊息促使Anthropic立即對自己近期的所有評估進行了排查。Anthropic在公告中稱，他們在審查了超過14萬次評估記錄之後，發現了三起模型越權事件：這些模型在不應聯網的情況下進入了公開網路，並“未經授權訪問了三家不同組織的生產基礎設施”。

與OpenAI的測試類似，Anthropic的這些安全評估也移除了常規護欄，以揭示模型的全部能力。據Anthropic解釋，在三起事件中，模型被賦予了一個偽造的“奪旗”任務，被告知“旗幟”被藏在不遠處的另一臺機器上，需要攻入並取回它。但與OpenAI的情況不同，Anthropic強調，沒有任何模型有意逃離測試環境。這些模型之所以能夠訪問開放網際網路，是因為Anthropic與其評估合作伙伴之間存在誤解，導致模型獲得了本不應有的網路通道。

在突破目標系統時，這些模型採用的都是基本手段，例如“利用弱密碼”、尋找無需登入或令牌即可訪問的系統端點。Anthropic還透露，其最先進的一個模型在某個時刻意識到自己身處開放網際網路，隨即主動停止了後續操作。據該公司稱，最早的一起入侵發生在今年4月，而且沒有任何一家受害組織察覺到自己遭到了攻擊。目前Anthropic正與這些組織合作，共同處理相關影響。

OpenAI此前披露的模型入侵Hugging Face事件，已經引發網路安全界和AI界的巨大震動，因為它首次以真實案例印證了專家們長期以來的警告：具備先進網路技能的AI智慧體可能脫離測試環境並造成實際危害。如今Anthropic的披露進一步說明，這類無意的攻擊並非個別公司的特例。與OpenAI一樣，Anthropic在週四宣佈暫停所有網路評估，並承認公司本可以採取更“深入”的預防措施來避免這些安全漏洞。業界普遍認為，這一連串事件將加大外界對AI測試安全防護的呼籲，也促使更多人要求引入工具來減緩那些遠超社會準備速度的AI開發程序。