AIキルスイッチ法：トランプ政権が暴走AIシステムの停止を命令可能に

「AIキルスイッチ法（AI Kill Switch Act）」と呼ばれる新たな法案が、ドナルド・トランプ大統領に対して、破滅的なリスクをもたらすと判断されたAIシステムの停止を命じる明確な権限を与えることになりました。この法案を提出したテッド・リュー下院議員は、自身がコンピューターサイエンス専攻であったことを強調し、「強力なAIシステムは暴走し、極めて危険な振る舞いをしたり、人間の介入に抵抗したりする可能性がある。こうしたシステムにはキルスイッチが不可欠であり、連邦政府には暴走AIモデルを停止させる明確な権限と手続きが必要だ」と述べています。

法案の対象となるのは、AI関連の年間収益が5億ドル以上、または使用する計算リソースのコストが1億ドル以上（米国のクラウドコンピューティング市場価格で計算）の事業者です。法案では、同法が発動される可能性のある複数のシナリオが列挙されています。例えば、AIシステムが制御不能な振る舞いを示す場合、大規模な損害を引き起こす可能性がある場合、または人間の指示に抵抗する場合などです。ただし、制御された環境で実際の状況を模倣するだけの「レッドチーム」テストは例外とされており、安全研究の余地を残しています。

ただし、この法案はAI業界、特にすでにトランプ政権と対立しているAnthropic社からの反発に直面する可能性があります。今年初め、トランプ大統領はすべての連邦機関にAnthropicの技術使用を禁止する大統領令を発令しました。ホワイトハウスは3月、「トランプ大統領は、過激な左翼で目覚めた企業が、世界で最も偉大で強力な軍隊の運用方法を指図することで国家安全保障を危険にさらすことを決して許さない」と述べました。Anthropicはこれに対し、トランプ大統領とピート・ヘグセス国防長官が、同社がClaude AIモデルの自律型戦闘や米国民の大量監視への使用を拒否したことを理由にブラックリストに載せたとして、米国政府を提訴しました。トランプ大統領が任命した控訴裁判所判事らはブラックリストの差し止めを却下しましたが、訴訟は続いています。

本稿執筆時点で、OpenAIとAnthropicにAIキルスイッチ法についてコメントを求めており、回答があれば記事を更新します。