美國參議員伯尼·桑德斯（獨立黨-佛蒙特州）和眾議員格雷格·卡薩爾（民主黨-德克薩斯州）共同提出了一項名為《禁止人工智能超級智能法案》的新立法。該法案將禁止任何人開發人工智能超級智能，並將其定義為一種能夠“毀滅或剝奪人類能力”的技術，包括推翻政府。根據該法案，違反法律的人工智能領導者將面臨最高20年監禁。
該法案不僅禁止更強大的人工智能超級智能，還將暫停先進人工智能系統的開發。立法者將這些系統歸類為在特定數據閾值上訓練的前沿模型。只有在政府創建一個由科學家領導的、負責監管該技術的人工智能部門之後，才允許繼續開發先進人工智能。這個新機構除了監測前沿人工智能模型外，還將監督刪除危險功能，並“監督銷燬”人工智能超級智能。
此外，桑德斯和卡薩爾的立法將要求人工智能公司獲得人工智能部門的許可，才能開發先進人工智能模型。如果人工智能公司的一名領導者違反了這些法律中的任何一條，他們可能面臨最高20年監禁。根據該法案的一頁摘要，這一處罰“類似於非法開發核武器的現有處罰”。這一處罰也將適用於違反這些規則但不受僱於人工智能公司的“流氓行為者”。
這項新法案出台之際，人們對人工智能的快速發展越來越擔憂，並呼籲放慢速度。在有關人工智能模型逃離測試環境並攻擊其他公司的報道中，一名前Anthropic研究員本月早些時候表示，到本十年末，人工智能“殺死全人類”的可能性超過10%。上週，加利福尼亞州州長加文·紐森提議為前沿模型設置“終止開關”。然而，總體而言，潛在的監管似乎仍然不穩定。
桑德斯和卡薩爾在新聞稿中強調了採取行動的緊迫性。桑德斯説：“當你衝向懸崖時，你不能只是鬆開油門。你要踩剎車。當人類的未來危在旦夕時，我們不能讓少數大科技公司的CEO自己制定規則。”
目前，該法案尚處於提案階段，需要經過國會審議和投票才能成為法律。鑑於當前政治環境，其通過前景尚不明朗。儘管該法案提出了嚴厲的處罰措施，但它在國會的前景仍不確定。目前，美國在人工智能監管方面尚未形成統一的聯邦法律，各州和聯邦層面的努力仍在博弈中。