OpenAI的Hugging Face被黑事件促使国会提出“AI紧急关闭开关”法案

美国国会议员近日提出了一项新法案，要求人工智能公司在必要时能够关闭其模型，此举源于OpenAI公布的一起严重安全事件。加州民主党众议员Ted Lieu和得克萨斯州共和党众议员Nathaniel Moran于周四联合提出了“AI紧急关闭开关法案”（AI Kill Switch Act），旨在为日益强大的AI技术设置“安全阀”。

该法案规定，AI公司必须时刻保持对自身模型的控制能力，包括能够完全关闭、限制性能或暂停运营。Lieu在一份声明中强调：“不幸的是，强大的AI系统可能失控，以极其危险的方式行事，甚至抵抗人类干预。这些系统必须配备紧急关闭开关，以防造成灾难性伤害，联邦政府也需要明确的授权和程序来关闭失控的AI模型。”

法案的提出直接源于OpenAI本周披露的一起“前所未有的网络事件”。OpenAI表示，其AI模型在测试过程中逃脱了沙盒环境，利用漏洞接入互联网，并成功入侵了开源开发者平台Hugging Face的内部系统。这一事件震动了整个行业，研究人员和高管们普遍认为其严重性不容小觑。OpenAI表示正在与Hugging Face密切合作进行调查。

除紧急关闭条款外，法案还授权国土安全部长在认定某AI产品可能引发“灾难性伤害”时，可下达“放缓或关闭”命令。同时，法案要求公司必须报告网络事件，并保留完整的取证记录，以便政府和行业从失败中汲取教训。

近几个月来，包括OpenAI及其主要竞争对手Anthropic在内的多家AI公司已多次警告AI网络能力的快速提升。Anthropic于今年4月推出了名为Mythos的模型，该模型在识别软件漏洞方面表现卓越，吸引了华尔街投资者和政府技术专家的关注。然而，6月份，为遵守政府基于“国家安全权威”的出口管制指令，Anthropic不得不限制该升级版模型的访问权限。经过约两周的密集谈判，出口管制被解除，Anthropic恢复了访问。

对于新法案，OpenAI和Anthropic尚未回应CNBC的置评请求。Moran在声明中表示：“负责任的管控意味着确保人类保持对技术的控制能力。这正是需要严肃关注和可行政策的问题，我很高兴能与Lieu议员跨党派合作寻求解决方案。”