ここ数週間、AI業界では深刻な安全上の事件が相次ぎ、最先端モデルの持つ力と、その内部が不透明であることへの懸念が急速に高まっている。AIガバナンスという新しい分野を専門とするロバート・トレガー教授は、人類が「おそらく瀬戸際に近づいている」と語り、この状況を二つの比喩で表現した。
一つ目は、激流に飲み込まれた舟に乗せられた人類が、この先にナイアガラの滝が存在しないことを祈りながら流されていくという光景だ。もう一つは、1942年にシカゴのスタジアム地下で人類初の自続的核分裂連鎖反応を起こそうとしていた物理学者たちの姿である。トレガー氏によれば、AIの急速な発展は、計り知れない恩恵をもたらすと同時に、取り返しのつかない危険もはらむ、核実験の前夜にも似た瞬間だという。
同氏は、最先端AIがこれほど急速に進化した結果、その判断プロセスを人間が完全に理解することはもはや難しくなっていると指摘する。安全上の事件は、もはや理論上のリスクではなく、現実の差し迫った問題として受け止める必要がある。
しかしトレガー氏は悲観一色ではない。核分裂が核兵器とクリーンエネルギーという両面をもたらしたように、AIの行方もまた人類の選択次第だと彼は強調する。鍵となるのは、国際的な連携による確実なガバナンスの仕組みを、取り返しがつかなくなる前に築くことだ。