AIシステムの能力が急速に向上する中で、大手AI企業や規制機関に対する一般の信頼は急速に失われつつある。かつては「企業が自主的に安全性を確保する」という前提が受け入れられていたが、商業的な圧力や競争、利益追求のかじ取りによって安全への配慮が後回しにされる事例が相次いでいる。記事は、制度への信頼が失われた以上、AI安全性の焦点は個人へと移るべきだと論じている。
個人は無力ではない。AI分野の研究者、エンジニア、プロダクトマネージャー、そして一般ユーザーに至るまで、それぞれの立場でより厳格な安全基準を推進することができる。研究者は危険な能力の評価結果を公表し、エンジニアはデプロイ前のリスク審査を徹底し、ユーザーは透明性や安全機構の欠けたシステムの利用を拒否することが可能だ。
こうした個人行動は、制度変革の必要性を否定するものではない。むしろ、機関任せではもはや不十分であるという現実を認めた上で、十分な数の人々がAI安全を自分自身の責務として捉えることで、下からの圧力が生まれ、組織や政策立案者にリスクを真正面から扱わせるきっかけになると説いている。この記事の核心は、形だけの組織の約束に依存するのをやめ、各自の判断と行動によってAI安全性の新たな防衛線を築くことである。