法王、AIの限界を理解する

主が大洪水で世界を悪から清めた後、人々はバビロニアに集まり、最新技術であった煉瓦を焼き始めた。当時、すべての人間は同じ言葉を話し、その煉瓦で無限の野心を体現する塔を建設した。そこで主は言語を混乱させ、神の力と栄光を渇望する新技術の創造を妨げた。

主はそのような技術を遅らせたかもしれないが、完全に先取りしたわけではない。バチカンが最近発表した250ページの回勅『偉大なる人間性』は、AIに取り組む初の公式カトリック文書と称賛されている。しかし、その危険性だけを扱うのではなく、レオ14世法王が署名したこの書簡には二つの包括的な目的がある。第一に、私たちの共通の性質と存在に飽き飽きしている人々から人類を守ること、第二に、人間の能力をコンピュータに外部委託する誘惑がもたらす脅威について社会に警告することである。人間の偉大さだけでなく不完全さを擁護することは、急進的な転換である。法王の洞察、すなわち私たちの美しさの多くは無限ではなく制限から生じるという点は、AI時代における重要な介入である。

『偉大なる人間性』はラッダイト的な文書ではない。むしろ、まばゆい技術が危険なリスクを密輸するというキリスト教の長い批判の伝統に従っている。例えば、産業革命は生産性を大幅に向上させたが、少数の資本家の利益のための新たな搾取形態も触発し、ウィリアム・ブレイクは1804年の詩『エルサレム』で、神の光が「これらの暗い悪魔の工場」に輝いたことがあるかどうか疑問を呈した。

AIも同様の疑問を提起する。法王の最も驚くべき主張の一つは、人間性は根本的に善良であるという主張である。それは、私たちを機械とは異なるものにするからであり、それにもかかわらずではない。「有限性は、真に受け入れられるとき、私たちを減じるのではなく、神と他者の顔を認識するように開く」と彼は書いている。「実際、私たちは限界—脆弱性、苦しみ、失敗—を経験するからこそ、すべての人の不可侵の尊厳、自分自身と他者の尊厳を認識できるのだ。」彼は、理性、創造性、思いやり、そして他者への配慮という人間の能力が機械に奪われることを許す傾向を憂慮している。

この懸念は、人間の善良さ、判断力、創意工夫への信頼が攻撃されている時期に生じている。シリコンバレーの最も声の大きい人々の中には、人間が提供する価値があるのかどうかについて矛盾しているように見える。昨年、億万長者のベンチャーキャピタリスト、ピーター・ティールはニューヨーク・タイムズのインタビューで、人類が生き残るべきかどうかの問いに答えるのをためらった。彼とテクノロジー投資家クラスの他のメンバーは、私たちが不完全な意思決定（道徳的およびその他）を超知能AIにさらに外部委託すれば、人類はより良くなるかもしれないと示唆している。

彼らの視点は、人間の限界を負債として退ける傾向があるが、実際には人間の不完全さが思いやりと反省を促し、偉大な芸術に美しさを与えている。AIが生み出す文学は退屈で、真の哀愁を欠いている。（例えば、チャットボットはドストエフスキーの散文スタイルを模倣できるかもしれないが、彼がそうしたように、罪が善を悲痛な対比で際立たせることを理解できない。）完璧さは非人間的であり、その志向は運命づけられ、見当違いである。

そのような完璧への志向は、AIを危険にする一因である。法王は、AIの作成者と利用者はすでに技術に道徳的判断をさせていると指摘する。例えば、アルゴリズムを使って誰を雇用するか、手術に資金を提供するか、爆弾をどこに標的とするかを決定している。これにより、人々がこれらの問題を自分で考える能力が萎縮し、さらに憂慮すべきことに、これらの選択に広く影響を与える能力は、AI技術を訓練し制御する者の手に委ねられる。これは、テクノロジーグルたちの道徳哲学が、これらの技術が社会でより広く普及するにつれて、ますます多くの人々の道徳的判断を導くことを意味する。

法王はAIを廃止する命令を出したわけでも、それが善か悪かの確定判決を下したわけでもない。実際、この文書はAIを特に特別とは考えていない。その特定のリスクは新しく深刻であるが。代わりに、法王はこの技術を、バベルの塔以来の長い系譜の中の単なる一つとして位置づけている。それは人間の独自性を犠牲にして力と栄光を約束する技術である。均質性、効率性、生産性は人間の人生の目的ではない。私たちの使命はコンピュータのように動作することではなく、コンピュータがまさにできないこと、すなわち愛することである。