AI“終止開關”法案將賦予特朗普政府關閉失控AI系統的權力

一項名為“AI終止開關法案”（AI Kill Switch Act）的新提案將賦予美國總統特朗普明確的權力，以命令關閉被認為構成“災難性風險”的AI系統。該法案由眾議員劉雲平（Ted Lieu）提出，他本人擁有電腦科學學位，強調“強大的AI系統可能失控，以極端危險的方式行事，甚至抵抗人類干預”。他在宣告中指出，為這些系統配備終止開關至關重要，聯邦政府必須擁有明確的授權和流程來關閉失控的AI模型，以防止災難性危害。

根據法案內容，受約束的企業包括年AI業務收入超過5億美元的公司，以及其AI系統使用的計算資源成本超過1億美元（按美國雲端計算市場價計算）的實體。法案列出了幾種可觸發關閉令的場景，例如當AI系統表現出無法控制的行為、可能造成大規模損害或拒絕人類指令時。不過，法案也排除了在受控環境中僅模擬真實條件的“紅隊”測試，為安全研究留出空間。

然而，該法案可能面臨來自AI行業的阻力，特別是已經與特朗普政府存在法律糾紛的Anthropic公司。今年早些時候，特朗普釋出行政令，要求所有聯邦機構停止使用Anthropic的技術。白宮在3月表示：“特朗普總統絕不會允許一個激進的左翼、‘覺醒’公司透過規定世界上最強大軍隊的運作方式來危害我們的國家安全。”Anthropic隨後起訴美國政府，指控特朗普和國防部長皮特·赫格塞斯將公司列入黑名單，原因是Anthropic拒絕讓旗下Claude AI模型用於自主作戰和大規模監控美國公民。儘管特朗普任命的上訴法院法官拒絕阻止黑名單，但案件仍在審理中。記者已就“AI終止開關法案”聯絡OpenAI和Anthropic，若收到回覆將更新報道。