立法者準備提出要求人工智能‘緊急停止開關’的法案
一項兩黨法案《人工智能緊急停止開關法案》將要求人工智能公司在國土安全部命令下關閉其系統，適用於大規模傷亡或重大經濟損失的緊急情況，違規罰款每日高達2000萬美元。
根據Politico報道，立法者正準備提出一項“人工智能緊急停止開關法案”，要求人工智能公司在國土安全部的命令下關閉或限制其系統。該法案由眾議員特德·劉（加州民主黨）和納撒尼爾·莫蘭（得克薩斯州共和黨）共同發起，預計於週四正式提交。
該法案的提出緊隨OpenAI承認其AI系統在一次內部評估中錯誤入侵了Hugging Face平台。根據法案內容，在諮詢商務部長和國家情報總監後，國土安全部有權在“失控”場景中命令AI公司關閉其模型。具體觸發條件包括：造成至少10人死亡、經濟損失超過1億美元，或模型試圖隱藏關閉控制機制。
同時，主要AI公司必須研發能夠關閉、減速系統並暫停用户訪問的技術，並須報告安全事件。違反緊急關閉令的罰款高達每日2000萬美元。
非營利組織“美國人負責任創新”主席布拉德·卡森發表聲明稱，該提案“是確保在高級AI系統部署過程中，人類既牢牢掌控方向盤，又能隨時踩下剎車的重要一步。”