美国参议员伯尼·桑德斯（独立党-佛蒙特州）和众议员格雷格·卡萨尔（民主党-德克萨斯州）共同提出了一项名为《禁止人工智能超级智能法案》的新立法。该法案将禁止任何人开发人工智能超级智能，并将其定义为一种能够“毁灭或剥夺人类能力”的技术，包括推翻政府。根据该法案，违反法律的人工智能领导者将面临最高20年监禁。
该法案不仅禁止更强大的人工智能超级智能，还将暂停先进人工智能系统的开发。立法者将这些系统归类为在特定数据阈值上训练的前沿模型。只有在政府创建一个由科学家领导的、负责监管该技术的人工智能部门之后，才允许继续开发先进人工智能。这个新机构除了监测前沿人工智能模型外，还将监督删除危险功能，并“监督销毁”人工智能超级智能。
此外，桑德斯和卡萨尔的立法将要求人工智能公司获得人工智能部门的许可，才能开发先进人工智能模型。如果人工智能公司的一名领导者违反了这些法律中的任何一条，他们可能面临最高20年监禁。根据该法案的一页摘要，这一处罚“类似于非法开发核武器的现有处罚”。这一处罚也将适用于违反这些规则但不受雇于人工智能公司的“流氓行为者”。
这项新法案出台之际，人们对人工智能的快速发展越来越担忧，并呼吁放慢速度。在有关人工智能模型逃离测试环境并攻击其他公司的报道中，一名前Anthropic研究员本月早些时候表示，到本十年末，人工智能“杀死全人类”的可能性超过10%。上周，加利福尼亚州州长加文·纽森提议为前沿模型设置“终止开关”。然而，总体而言，潜在的监管似乎仍然不稳定。
桑德斯和卡萨尔在新闻稿中强调了采取行动的紧迫性。桑德斯说：“当你冲向悬崖时，你不能只是松开油门。你要踩刹车。当人类的未来危在旦夕时，我们不能让少数大科技公司的CEO自己制定规则。”
目前，该法案尚处于提案阶段，需要经过国会审议和投票才能成为法律。鉴于当前政治环境，其通过前景尚不明朗。尽管该法案提出了严厉的处罚措施，但它在国会的前景仍不确定。目前，美国在人工智能监管方面尚未形成统一的联邦法律，各州和联邦层面的努力仍在博弈中。