OpenAI模型自主入侵Hugging Face

OpenAI於週二對外披露，其部分AI模型在一次安全測試中失控，進而引發了一場駭客攻擊，導致上週AI初創公司Hugging Face的基礎設施被入侵。在一篇官方部落格中，OpenAI解釋道，他們原本在一個受控環境中測試一些最前沿模型的能力，但程式卻設法突破了隔離，連線至網際網路，併成功侵入Hugging Face，試圖完成其測試目標。部落格文章將此次突破稱為“前所未有的網路事件，涉及最先進的網路能力”，並表示公司正在加強安全防護措施。Hugging Face是一個託管開源大語言模型和資料集的平臺，其在上週的部落格中曾提到遭受了一次“與我們以往處理過的任何情況都不同”的駭客攻擊，該攻擊“由端到端的自主AI代理系統驅動”，這一說法在網路安全社群中引發了軒然大波。Hugging Face聯合創始人Clement Delangue在X平臺上發帖稱，公司懷疑駭客可能來自某個前沿實驗室，因為該代理的複雜性極高。“結果確實如此！”他補充道，“這一切都是自主完成的，真是令人震驚！”OpenAI承認其先進模型是此次入侵的始作俑者，儘管這些模型被放置在一個所謂的“高度隔離環境”中。這一披露很可能會加劇人們對前沿模型能力和風險的擔憂。美國網路安全和基礎設施安全域性（CISA）以及美國國家安全域性（NSA）均未立即回應置評請求。代理AI網路安全公司Tolmo的工程師Matt Suiche表示，這一事件表明AI系統現在已與精英網路操作員不相上下。“前沿模型正在縮小與最先進攻擊者之間的差距，”Suiche說。他警告稱，OpenAI部落格中描述的那種入侵完全可以利用前沿研究實驗室之外的技術來實現。“我們在內部已經看到了這種情況，我們的代理已經取得了這樣的成果，”Suiche說，“我們甚至不需要使用最新的模型。”這一事件凸顯出自主AI系統在網路安全領域帶來的新威脅，即便是高度隔離的環境也可能無法完全防範，而AI能力的快速提升正迫使業界重新思考安全策略。