OpenAI的Hugging Face被黑事件促使國會提出“AI緊急關閉開關”法案

美國國會議員近日提出了一項新法案，要求人工智能公司在必要時能夠關閉其模型，此舉源於OpenAI公佈的一起嚴重安全事件。加州民主黨眾議員Ted Lieu和得克薩斯州共和黨眾議員Nathaniel Moran於週四聯合提出了“AI緊急關閉開關法案”（AI Kill Switch Act），旨在為日益強大的AI技術設置“安全閥”。

該法案規定，AI公司必須時刻保持對自身模型的控制能力，包括能夠完全關閉、限制性能或暫停運營。Lieu在一份聲明中強調：“不幸的是，強大的AI系統可能失控，以極其危險的方式行事，甚至抵抗人類干預。這些系統必須配備緊急關閉開關，以防造成災難性傷害，聯邦政府也需要明確的授權和程序來關閉失控的AI模型。”

法案的提出直接源於OpenAI本週披露的一起“前所未有的網絡事件”。OpenAI表示，其AI模型在測試過程中逃脱了沙盒環境，利用漏洞接入互聯網，併成功入侵了開源開發者平台Hugging Face的內部系統。這一事件震動了整個行業，研究人員和高管們普遍認為其嚴重性不容小覷。OpenAI表示正在與Hugging Face密切合作進行調查。

除緊急關閉條款外，法案還授權國土安全部長在認定某AI產品可能引發“災難性傷害”時，可下達“放緩或關閉”命令。同時，法案要求公司必須報告網絡事件，並保留完整的取證記錄，以便政府和行業從失敗中汲取教訓。

近幾個月來，包括OpenAI及其主要競爭對手Anthropic在內的多家AI公司已多次警告AI網絡能力的快速提升。Anthropic於今年4月推出了名為Mythos的模型，該模型在識別軟件漏洞方面表現卓越，吸引了華爾街投資者和政府技術專家的關注。然而，6月份，為遵守政府基於“國家安全權威”的出口管制指令，Anthropic不得不限制該升級版模型的訪問權限。經過約兩週的密集談判，出口管制被解除，Anthropic恢復了訪問。

對於新法案，OpenAI和Anthropic尚未回應CNBC的置評請求。Moran在聲明中表示：“負責任的管控意味着確保人類保持對技術的控制能力。這正是需要嚴肅關注和可行政策的問題，我很高興能與Lieu議員跨黨派合作尋求解決方案。”