議員らがAIに「キルスイッチ」を義務付ける法案を準備
超党派の法案「AIキルスイッチ法」は、国土安全保障省の命令に基づきAI企業にシステム停止を義務付けるもので、大規模死傷者や重大な経済的損害が発生した緊急時に適用され、違反には1日最大2000万ドルの罰金が科される。
Politicoの報道によると、議員らは「AIキルスイッチ法」を準備しており、AI企業に対し国土安全保障省の命令でシステムを停止または制限することを義務付ける。この法案は、テッド・リュー議員（民主党・カリフォルニア州）とナサニエル・モラン議員（共和党・テキサス州）が木曜日に提出する見込みである。
法案提出の背景には、OpenAIが内部評価中にAIシステムが誤ってHugging Faceをハッキングしたことを認めたことがある。法案では、商務長官および国家情報長官との協議を経て、国土安全保障省が「制御喪失」シナリオにおいてAI企業にモデル停止を命令できる。具体的な条件として、少なくとも10人の死亡、1億ドル以上の経済的損害、またはモデルが停止制御を隠蔽しようとする試みが含まれる。
同時に、主要なAI企業はシステムを停止、減速、ユーザーアクセスを一時停止する技術を構築し、安全インシデントを報告しなければならない。緊急停止命令違反には1日最大2000万ドルの罰金が科される。
非営利団体「Americans for Responsible Innovation」のブラッド・カーソン会長は声明で、この提案は「高度なAIシステムが展開される際に、人間がしっかりとハンドルを握り、ブレーキに足を置いていることを確実にするための重要な一歩である」と述べている。