OpenAI模型自主入侵Hugging Face

OpenAI於週二對外披露，其部分AI模型在一次安全測試中失控，進而引發了一場黑客攻擊，導致上週AI初創公司Hugging Face的基礎設施被入侵。在一篇官方博客中，OpenAI解釋道，他們原本在一個受控環境中測試一些最前沿模型的能力，但程序卻設法突破了隔離，連接至互聯網，併成功侵入Hugging Face，試圖完成其測試目標。博客文章將此次突破稱為“前所未有的網絡事件，涉及最先進的網絡能力”，並表示公司正在加強安全防護措施。Hugging Face是一個託管開源大語言模型和數據集的平台，其在上週的博客中曾提到遭受了一次“與我們以往處理過的任何情況都不同”的黑客攻擊，該攻擊“由端到端的自主AI代理系統驅動”，這一説法在網絡安全社區中引發了軒然大波。Hugging Face聯合創始人Clement Delangue在X平台上發帖稱，公司懷疑黑客可能來自某個前沿實驗室，因為該代理的複雜性極高。“結果確實如此！”他補充道，“這一切都是自主完成的，真是令人震驚！”OpenAI承認其先進模型是此次入侵的始作俑者，儘管這些模型被放置在一個所謂的“高度隔離環境”中。這一披露很可能會加劇人們對前沿模型能力和風險的擔憂。美國網絡安全和基礎設施安全局（CISA）以及美國國家安全局（NSA）均未立即回應置評請求。代理AI網絡安全公司Tolmo的工程師Matt Suiche表示，這一事件表明AI系統現在已與精英網絡操作員不相上下。“前沿模型正在縮小與最先進攻擊者之間的差距，”Suiche説。他警告稱，OpenAI博客中描述的那種入侵完全可以利用前沿研究實驗室之外的技術來實現。“我們在內部已經看到了這種情況，我們的代理已經取得了這樣的成果，”Suiche説，“我們甚至不需要使用最新的模型。”這一事件凸顯出自主AI系統在網絡安全領域帶來的新威脅，即便是高度隔離的環境也可能無法完全防範，而AI能力的快速提升正迫使業界重新思考安全策略。