AI“终止开关”法案将赋予特朗普政府关闭失控AI系统的权力

一项名为“AI终止开关法案”（AI Kill Switch Act）的新提案将赋予美国总统特朗普明确的权力，以命令关闭被认为构成“灾难性风险”的AI系统。该法案由众议员刘云平（Ted Lieu）提出，他本人拥有计算机科学学位，强调“强大的AI系统可能失控，以极端危险的方式行事，甚至抵抗人类干预”。他在声明中指出，为这些系统配备终止开关至关重要，联邦政府必须拥有明确的授权和流程来关闭失控的AI模型，以防止灾难性危害。

根据法案内容，受约束的企业包括年AI业务收入超过5亿美元的公司，以及其AI系统使用的计算资源成本超过1亿美元（按美国云计算市场价计算）的实体。法案列出了几种可触发关闭令的场景，例如当AI系统表现出无法控制的行为、可能造成大规模损害或拒绝人类指令时。不过，法案也排除了在受控环境中仅模拟真实条件的“红队”测试，为安全研究留出空间。

然而，该法案可能面临来自AI行业的阻力，特别是已经与特朗普政府存在法律纠纷的Anthropic公司。今年早些时候，特朗普发布行政令，要求所有联邦机构停止使用Anthropic的技术。白宫在3月表示：“特朗普总统绝不会允许一个激进的左翼、‘觉醒’公司通过规定世界上最强大军队的运作方式来危害我们的国家安全。”Anthropic随后起诉美国政府，指控特朗普和国防部长皮特·赫格塞斯将公司列入黑名单，原因是Anthropic拒绝让旗下Claude AI模型用于自主作战和大规模监控美国公民。尽管特朗普任命的上诉法院法官拒绝阻止黑名单，但案件仍在审理中。记者已就“AI终止开关法案”联系OpenAI和Anthropic，若收到回复将更新报道。