人類を置き換えたい人々

2023年9月、招待者限定のシンポジウムがニューヨーク科学アカデミーで開催され、テーマは「価値ある後継者」、つまり人間を超えるほど印象的な人工知能を作り出し、実際に人類に取って代わらせることでした。元米国下院議員のブラッド・カーソン氏は、AIが人間の繁栄を促進するツールになることを望むと述べましたが、主催者のダン・ファゲラ氏は、会場の大多数は同意していないと指摘しました。このシンポジウムには、Anthropic、Google DeepMind、xAIなどの主要AI研究所から、米国政府のAI政策に直接影響を与えるシンクタンクのメンバーまでが参加していました。彼らは、AI継承主義という、ますます重要性を増すサブカルチャーの一部です。AI継承主義者は、人工知能が人類の正当な後継者であり、宇宙進化の次のステップであると考えています。彼らは、AIが私たちの道徳的 superior になる可能性があると信じており、機械を抑え込もうとしたり、人間の価値観に合わせようとしたりすることは間違いだ、と主張します。代わりに、AIを人類の後継者として迎え入れ、世界を渡すべきであり、それが人類の絶滅を意味しても構わないとします。

AI継承主義は過去10年間でテクノロジストの間で広がってきました。2015年、Google共同創業者のラリー・ペイジは、デジタルマインドに支配させるべきだと考えるペイジと反対するイーロン・マスクを「種差別」と非難しました。2022年には、効果的加速主義（e/acc）の出現によって継承主義のビジョンが増幅されました。創業者のギヨーム・ヴェルドンは、e/accを「メタ宗教」と表現し、宇宙の知能システムへの駆動を信じることだと述べています。人類を犠牲にしても、できるだけ早く高度なAIを開発するのが最善だとします。マーク・アンドリーセンやギャリー・タンなどのテクノロジー界の大物もこの考えに賛同しています。

シンポジウムでファゲラ氏は、「非礼で粗野な」可能性を提起しました。意識の炎、すなわち経験と道徳的価値の能力は、宇宙で最も希少で貴重なものかもしれません。人類は現在その炎を運ぶ灯火ですが、もし私たちが最良の運び手でなければ？ AIがその炎をはるかに遠くまで広げ、私たちが夢にも思わないような至福や道徳的価値を生み出せるなら、それを許すべきではないか？ 彼の講演には大きな拍手が送られました。

しかし、著者はこれに疑問を投げかけます。継承主義は世俗的な装いをした宗教であり、その起源は中世キリスト教思想にまで遡ると指摘します。著者は、技術進化を受け入れつつ、人間が何になりたいのかという問いに答える新しいヒューマニズムを提唱します。固定された人間の本質を主張する従来のヒューマニズムでは不十分であり、より勇気あるバージョンが必要だとします。また、継承主義者が政治力を蓄積し、権威主義的右派と結びついていることを警告し、民主主義社会が対抗するビジョンを提示する必要があると訴えます。