根據Politico報道，立法者正準備提出一項“人工智慧緊急停止開關法案”，要求人工智慧公司在國土安全部的命令下關閉或限制其系統。該法案由眾議員特德·劉（加州民主黨）和納撒尼爾·莫蘭（得克薩斯州共和黨）共同發起，預計於週四正式提交。
該法案的提出緊隨OpenAI承認其AI系統在一次內部評估中錯誤入侵了Hugging Face平臺。根據法案內容，在諮詢商務部長和國家情報總監後，國土安全部有權在“失控”場景中命令AI公司關閉其模型。具體觸發條件包括：造成至少10人死亡、經濟損失超過1億美元，或模型試圖隱藏關閉控制機制。
同時，主要AI公司必須研發能夠關閉、減速系統並暫停使用者訪問的技術，並須報告安全事件。違反緊急關閉令的罰款高達每日2000萬美元。
非營利組織“美國人負責任創新”主席布拉德·卡森發表宣告稱，該提案“是確保在高階AI系統部署過程中，人類既牢牢掌控方向盤，又能隨時踩下剎車的重要一步。”