バーニー・サンダース上院議員（無所属、バーモント州）とグレッグ・カサール下院議員（民主党、テキサス州）は、人工超知能の開発を誰に対しても禁じる新たな法案を提出した。法案は人工超知能を、政府の転覆を含め、「人類の破壊または無力化」を可能にする技術と定義している。違反したAI企業の責任者は、最大20年の禁錮刑に処され得る。
この法案は、より強力な人工超知能の禁止にとどまらない。特定のデータ閾値で訓練されたフロンティアモデルなど、高度なAIシステムの開発も一時停止させる。政府が科学者主導の「人工知能省」を設けて技術を監督した後に限り、高度AIの開発を続けられるようになる。この機関はフロンティアモデルの監視に加え、危険な機能の除去や人工超知能の「破壊の監督」も担う。
法案はさらに、AI企業が高度なモデルを開発する際に人工知能省の許可を得ることを求める。AI企業の責任者が規定に違反すれば、最大20年の禁錮刑となる。法案の概要によれば、この罰則は核兵器の不正開発に対する既存の罰則に近い。また、AI企業に雇用されていない「ローグ行為者」が規則を破った場合にも適用される。
この新法案は、AIの急速な発展への懸念と、開発を減速させるよう求める声が高まる中で登場した。AIモデルがテスト環境を逃げ出し、他社へのハッキングを行ったとの報告があるほか、今月初めには元Anthropic研究者が、今十年の終わりまでにAIが「全人類を殺す」確率は10％超だと述べた。先週にはカリフォルニア州のギャビン・ニューサム知事がフロンティアモデル向けの「キルスイッチ」を提案した。ただ、規制の見通しは全体としてまだ不透明だ。
サンダース氏はプレスリリースで「崖に向かって突っ走っているときは、アクセルを緩めるだけでは済まない。ブレーキを踏む必要がある」と述べた。「人類の未来がかかっているとき、少数のビッグテックCEOに自分たちのルールを書かせるわけにはいかない」とも語った。