なぜAIが意識を持つことは決してないのか

近年、人工知能が意識を持つことができるかどうかについての議論が活発になっています。本記事の著者Rob Urieは、物理的・哲学的な観点から、AIは本質的に人間が作成したアルゴリズムの集まりであり、真に思考や推論をすることはできないと主張します。彼は車が崖から落ちる比喩を用いて、たとえAIが複雑なステップを実行しても、それらのステップは人間によって事前に設計されたものであると説明します。AIには自己意識がなく、単に指示に従っているにすぎません。

さらに、著者はAIを「思考する機械」と見なす見解を批判します。AIのいわゆる「推論」は、実際にはモデルにコード化された指示の実行結果です。人間のプログラマーが推論プロセスをアルゴリズムとして記述し、AIはそれを機械的に実行するだけです。したがって、AIの出力は本質的に人間の労働の産物であり、機械の自律的な思考の結果ではありません。

また、この記事はAIがもたらす政治経済的影響についても考察しています。AIが価値を生み出す「資本」と見なされれば、資本家はその利益を主張でき、労働者は一時的な賃金しか受け取れません。これは資本主義社会における不平等を永続させます。同時に、AIの膨大な計算能力は多大なリソースを消費し、環境コストを無視できません。

最後に、著者はAIの流行が技術に対する盲目的な楽観主義を反映していると指摘します。歴史的に自動車が交通渋滞をもたらしたように、AIも問題を解決するどころか、さらに悪化させる可能性があります。真の知恵は、AIの限界を認識し、それを意識のある実体として神格化しないことにあるのです。

著者はまた、AIモデルが自分自身を「単語の整理・配列装置」と説明することに言及し、AIは意味を理解せず、人間が定義した意味を一致させているだけだと強調します。デジタル領域は閉じたシステムであり、AIは世界に直接アクセスできず、デカルト的な「水槽の中の脳」のようなものです。AIの計算インフラは超高層ビルに匹敵し、その環境フットプリントは壊滅的となる可能性があります。AIが数学の問題を解けるとしても、それは力ずくの計算によるものであって、真の思考ではありません。したがって、AIは意識を持たず、それはドアストップと同様に思考や推論に近づいていないデジタルロボットなのです。