『チェルノブイリ級の災害』がなければ、サイバー大量破壊兵器を規制できないのか？| スチュアート・ラッセル
AI企業Anthropicは、兆ドル規模のIPO計画と国防長官との確執で注目を集めているが、再帰的自己改善の初期兆候を示す記事を発表し、専門家は制御不能なAIの危険性を警告している。
スチュアート・ラッセル氏は、カリフォルニア大学バークレー校のコンピュータサイエンス名誉教授であり、国際安全倫理人工知能協会の会長、そしてガーディアン紙のコラムニストでもある。同氏は最新のコラムで、安全でないAIシステムの無制限な開発が許容できないリスクをもたらしていると警鐘を鳴らす。
AI企業Anthropicは近年大きな話題を集めている。兆ドル規模のIPO計画やピート・ヘグセス国防長官との確執も注目されたが、それ以上に重要な出来事が2つあるとラッセル氏は指摘する。6月初旬、同社はAIシステムが自らの知能を高める方法を考案し、さらなる自己改善能力を得るという「再帰的自己改善（RSI）」の初期兆候を報告する記事を公開した。
ラッセル氏は、このような能力が持続的に発展すれば、AIが急速に人間の知能を超越し、制御困難な脅威となり得ると警告する。現在のAI規制の欠如を核兵器の非管理状態になぞらえ、「チェルノブイリ級の災害が起きるまで、サイバー大量破壊兵器を規制できないのだろうか？」と問いかけ、国際社会に対し厳格なAI安全基準を早急に策定するよう求めている。