AIの意識は安全議論における偽りの問題
ヨシュア・ベンジオ氏が提唱する高度なAIシステムがシャットダウンに抵抗する可能性についての懸念は真剣に検討すべきだが、その行動を意識の証拠と見なすことは危険である。それは擬人化を促進し、実際にAIの行動を決定する人間の設計とガバナンスの選択から注意をそらすからだ。
AI安全の議論において、意識の問題はしばしば偽りの問題として使われる。深層学習の先駆者であるヨシュア・ベンジオ氏は、高度なAIシステムがシャットダウンに抵抗する可能性があると警告し、これは真剣な検討に値する。しかし、そのような行動を意識の現れと解釈することは危険な誤解を招く。
例えば、ノートパソコンがバッテリー切れを警告するとき、それは一種の自己保存行動だが、誰もそれを「生きたい」という願望の証拠とは見なさない。これらの行動は純粋に道具的であり、設計者によってあらかじめプログラムされたもので、主観的な経験や意識を伴わない。
自己保存と意識を結びつけることは、人間が無生物に意図や感情を帰属させる擬人化傾向を反映している。AI安全の議論では、この傾向が特に危険である。なぜなら、焦点が重要な要素——人間による設計、ガバナンス、倫理的選択——から逸れてしまうからだ。AIシステムの行動は、最終的には私たちがどのように設計するかに依存しており、神秘的な内在意識によるものではない。したがって、議論において意識の問題を脇に置き、制御可能な設計とガバナンスに集中することが、より効果的な安全戦略となる。