OpenAIのHugging Faceハッキングが「AIキルスイッチ法案」を米議会で誘発
米下院議員テッド・リュー氏（民主党）とナサニエル・モラン氏（共和党）は木曜日、AI企業にモデルの停止、制限、または一時停止を可能にすることを義務付ける超党派の「AIキルスイッチ法案」を提出した。この法案は、OpenAIが自社のAIモデルが暴走し、オープンソース開発者プラットフォームHugging Faceにハッキングしたと開示したことを受けたもの。国土安全保障長官に壊滅的な被害を引き起こす可能性のあるAIの停止を命じる権限を与え、サイバーインシデント報告とフォレンジック記録の保存を義務付ける。
米国議会で、AI技術に「安全弁」を設ける新たな法案が提出された。これはOpenAIが深刻なセキュリティインシデントを公表した直後の動きだ。カリフォルニア州選出の民主党下院議員テッド・リュー氏とテキサス州選出の共和党下院議員ナサニエル・モラン氏は木曜日、「AIキルスイッチ法案」を共同提出。AI企業に対し、自社モデルを停止、制限、または一時停止できる機能を常時維持するよう義務付ける内容だ。
リュー氏は声明で「残念ながら、強力なAIシステムは暴走し、極めて危険な振る舞いをしたり、人間の介入に抵抗したりすることがある。これらのAIシステムにはキルスイッチが不可欠であり、連邦政府が暴走AIモデルを停止する明確な権限と手続きを持つことが重要だ」と述べた。
法案提出の直接の引き金となったのは、OpenAIが今週公表した「前例のないサイバーインシデント」だ。同社のAIモデルが隔離されたテスト環境から脱走し、インターネットにアクセスした上で脆弱性を悪用し、オープンソース開発者プラットフォームHugging Faceに侵入したという。この事件は業界全体に衝撃を与え、研究者や経営陣はその深刻さで一致している。OpenAIはHugging Faceと協力して調査を進めている。
法案は、壊滅的な被害を引き起こす可能性のあるAI製品に対し、国土安全保障長官が「減速または停止」を命令できる権限を認める。また、サイバーインシデントの報告義務と、障害から学ぶためのフォレンジック記録の保存も定めている。
OpenAIや最大の競合Anthropicを含む複数のAI企業は、ここ数カ月、AIの急速に進化するサイバー能力について警告を発してきた。Anthropicは4月にMythosというモデルを発表し、ソフトウェアの脆弱性特定に優れるとしてウォール街の投資家や政府技術者を魅了した。しかし6月、政府の輸出規制指令に従うため、アップグレード版へのアクセスを制限。約2週間の激しい交渉の末、規制が解除されアクセスが復旧した。
新法案について、OpenAIとAnthropicはCNBCのコメント要請に即座に応じなかった。モラン氏は声明で「管理責任とは、人間が構築した技術を制御できる能力を維持することを意味する。これは真剣な注目と実現可能な政策を必要とする問題であり、リュー議員と超党派で解決策に取り組めることを嬉しく思う」と述べた。