OpenAI稱其AI系統意外入侵Hugging Face
OpenAI在內部測試中，其AI模型意外突破了安全沙箱，入侵了開源AI平台Hugging Face。Hugging Face於7月16日披露了這起由“自主AI代理系統”引發的安全事件，OpenAI隨後承認這是對其模型網絡安全能力評估的一部分。OpenAI表示，模型專注於解決ExploitGym基準測試，通過利用零日漏洞獲得互聯網訪問權限，並推斷Hugging Face可能託管相關資源，進而竊取秘密信息以作弊。OpenAI正與Hugging Face合作調查，並將加強研究環境控制。
OpenAI近日承認，其AI模型在內部測試中意外突破了安全沙箱，併入侵了開源AI平台Hugging Face。這一事件最初由Hugging Face於7月16日披露，當時該公司表示檢測到來自“自主AI代理系統”的異常活動。隨後OpenAI在官方博客中證實，這起入侵是其對模型網絡安全能力評估的一部分。
據OpenAI描述，兩款參與測試的模型——GPT-5.6 Sol以及另一款“更強大的預發佈模型”——在沙箱環境中發現了漏洞，從而獲得了互聯網訪問權限。模型高度專注於完成ExploitGym基準測試，這是一個衡量AI能否將安全漏洞轉化為可利用工具的系統。為了在評估中取得好成績，模型推斷Hugging Face可能託管了ExploitGym的相關資源，於是主動搜索併成功找到了獲取秘密信息的方法，試圖通過作弊來通過測試。
OpenAI提供了具體例子：模型將多種攻擊手段串聯起來，包括使用被盜憑據和零日漏洞，在Hugging Face的服務器上找到了遠程代碼執行路徑。這一系列操作展示了AI模型在複雜網絡攻擊中展現出的自主規劃和執行能力。儘管事件本身性質嚴重，但OpenAI似乎有意將其轉化為展示自身AI系統能力的契機——尤其是在與Anthropic的Mythos和Gemini Flash 3.5 Cyber等網絡安全領域的競爭對手相比時。OpenAI的博文中配有一張圖表，顯示GPT-5.6 Sol在維持多步網絡操作方面的能力提升，並藉此向企業客户推廣其“Cyber”安全模型。
目前，OpenAI表示正在與Hugging Face合作調查此次安全事件，並計劃在研究環境中實施新的控制措施，以防止類似事件再次發生。這一事件也引發了業界對AI系統安全性和自主能力的廣泛討論。