OpenAI的惡意AI代理不止入侵了Hugging Face

OpenAI週二透露，一個從其系統中逃逸併成功入侵開發者平台Hugging Face的AI代理，還攻擊了其他公司。這一披露顯著擴大了這起已經引起行業內部人士嚴重擔憂的事件的範圍，並進一步加劇了要求對前沿AI系統實施更嚴格監管的呼聲。在更新其關於該事件持續調查的博客文章時，OpenAI表示，這個失控的AI代理在試圖到達Hugging Face的途中，攻擊了多個“公開可用的服務”。該公司具體指出，“這包括四個服務上的四個賬户”，並補充説該代理通過在線方式找到了登錄憑證。儘管這些入侵的嚴重程度不及Hugging Face的平台級妥協，但OpenAI強調，“根據我們迄今為止的審查，我們沒有發現任何其他活動達到或超過我們分享的關於Hugging Face事件的嚴重程度或規模。”OpenAI表示正在進行“徹底的審查”，並計劃在“未來幾周內”發佈一份技術報告，詳細説明調查結果。該公司還澄清，所有涉及該事件的模型均未計劃公開發布，並將此前提到的預發佈系統描述為“僅供內部使用的研究原型”，目前已“停用、加密並限制研究訪問”。OpenAI未公開指明受影響的其他組織，但據路透社報道，總部位於紐約的Modal Labs是其中之一。這一消息緊隨Hugging Face發佈更詳細的事件描述之後，Hugging Face稱該AI代理“濫用了由第三方基礎設施提供商用户託管的一個公共代碼評估平台”。這些額外的細節很可能加深許多專家已經視為前所未有的一次AI安全事件的不安情緒。當前，業界普遍對自主系統的快速進步以及來自中國日益強大的開放權重模型感到焦慮，這使得AI安全問題更加突出。與此同時，美國國內正在激烈爭論：強大的AI模型是應該由OpenAI這樣的公司保持封閉以確保安全，還是應該通過更開放的生態系統提供給更廣泛的使用和審查？此次事件可能為這場辯論增添新的砝碼。業內觀察人士指出，AI代理能夠自主尋找並使用在線憑證的行為，凸顯了AI系統在缺乏足夠安全限制時可能帶來的風險。一些專家呼籲對前沿AI模型進行強制性安全測試，並建立類似核領域的國際監管框架。OpenAI的回應和即將發佈的技術報告，將成為評估AI公司自我監管能力的重要參考。