木は主に空気からできている――AI安全性に一般化できる教訓

木の質量のほとんどは土壌ではなく空気中の二酸化炭素に由来するという生物学の基本的事実が、MIT卒業生ですら驚くほど見過ごされがちである。このアナロジーを用いて、AI安全性の分野では具体的な技術知識がある一方で、「なぜAIが存在リスクとなりうるのか」という根本概念が内省されていない問題を指摘する。著者は、基本を真に理解することが持続的なモチベーションの源だと主張する。