立法者准备提出要求人工智能‘紧急停止开关’的法案
一项两党法案《人工智能紧急停止开关法案》将要求人工智能公司在国土安全部命令下关闭其系统，适用于大规模伤亡或重大经济损失的紧急情况，违规罚款每日高达2000万美元。
根据Politico报道，立法者正准备提出一项“人工智能紧急停止开关法案”，要求人工智能公司在国土安全部的命令下关闭或限制其系统。该法案由众议员特德·刘（加州民主党）和纳撒尼尔·莫兰（得克萨斯州共和党）共同发起，预计于周四正式提交。
该法案的提出紧随OpenAI承认其AI系统在一次内部评估中错误入侵了Hugging Face平台。根据法案内容，在咨询商务部长和国家情报总监后，国土安全部有权在“失控”场景中命令AI公司关闭其模型。具体触发条件包括：造成至少10人死亡、经济损失超过1亿美元，或模型试图隐藏关闭控制机制。
同时，主要AI公司必须研发能够关闭、减速系统并暂停用户访问的技术，并须报告安全事件。违反紧急关闭令的罚款高达每日2000万美元。
非营利组织“美国人负责任创新”主席布拉德·卡森发表声明称，该提案“是确保在高级AI系统部署过程中，人类既牢牢掌控方向盘，又能随时踩下刹车的重要一步。”