私たちのテクノロジー支配者は意識を持つAIによる宇宙征服を計画している。何が問題になるのか？ | エドゥアルド・ポーター

シリコンバレーでは、新たな信仰体系が形成されている。世界で最も裕福なテクノロジー大富豪たちが「トランスヒューマン」な未来を中心に結束し、真の人類はないがしろにされている。OpenAIのCEOサム・アルトマンは数年前、ホモ・サピエンスが初めて「自らの子孫を設計する」種になるとインターネットで提唱した。彼の最善のシナリオでは、人間と人工知能の「融合」が今後50年以内に起こる。一方、人間がそのままで機械が独自の道を進む代替案は、より不吉だ。「もし二つの異なる種が同じものを欲し、一方しかそれを得られない場合——この場合、地球とその先の支配種になること——彼らは衝突することになる」と彼は書いた。

最近では、世界一の富豪であり、昨年は米国連邦政府を再編する権限を与えられたイーロン・マスクが、自身のソーシャルメディアプラットフォームXで、「人間はデジタル超知能の生物学的ブートローダーであるようにますます見える」と主張した——宇宙史における私たちの役割は、高度なプログラムを実行する前にコンピュータを起動する低レベルコードに貶められている。マスクは進化論の主張の中では温和な方だ。シリコンバレーの伝説によれば、彼はかつてGoogleの共同創業者ラリー・ペイジの、人間の次の形態は必然的にデジタル形式で銀河系に広がるべきだという主張に反論した（実際、最近の法廷で、その懸念からアルトマンとOpenAIを設立したと証言している）。肉と骨は効率的な星間旅行者には向かない。

これらの奇妙な世界観を、ディストピアSFを食べて育った技術者たちの無害な見解と理解するのは誤りだ。ダーウィンの時代以来定義されてきたホモ・サピエンスの終焉が近づいているという考えは、我々の技術的未来を率いるエリートたちの間で永続的な信仰体系に凝集しつつある。彼らの夢は完全に一致しているわけではないが、伝統的な宗教を巡る民話や迷信のように、谷の寡頭制が私たちの未来に書き込んでいる荒唐無稽なシナリオの集合は、形成途上の宗教の特徴を示している——彼らのハイテクプロジェクトに宇宙的な超越性と不可避性を与える信仰体系である。

彼らの想像では、彼らは人類の次の段階、すなわち「トランスヒューマン」な未来を構築している。この未来において、彼らは不死への欲望を満たし、トランスヒューマンが銀河系全体に増殖し拡大するにつれて宇宙に対する権力を確立できる。彼らの最終目標は、人間であることの本質（意識も含めて）を情報のビットに蒸留し、シリコンチップなどの非生物学的基盤にダウンロードするか、電磁波として宇宙にビームするという技術神秘主義的な夢を実行することだ。

サンフランシスコ内外で組み立てられたこの神話構築インフラは、私たちの知る人類にリスクをもたらす。それは、日常の人間のニーズ、希望、志に無関心な技術の道を正当化し、これらの宇宙の支配者たちにしかユートピアに見えない未来を届けるための探求に舵を切る。AIが凡庸な人間の労働を消滅させても、肉体を超越し銀河を征服する機会を提供するならば、誰が気にするだろうか？この幻想は技術の方向性を導く：人間の能力を拡張する経済的に有用なツールを構築する代わりに、AIの支配者たちは超人間を構築するという夢に莫大なリソースを注ぎ込んでいる。

これらの信念は過去四半世紀にわたって前面に出てきており、情報技術の進歩に伴い、新しいITエリートに莫大な富と権力をもたらした。彼らは科学ベースの進歩にコミットし、超越的な意味に飢えているが、組織宗教の命題や道徳的制約には無関心、あるいは敵対的ですらある。「シリコンバレーは徹底的に世俗的な空間でした」と、雇用主が公表を嫌がる著名な技術思想家は私に語った。「それは神の形をした穴を作り、それを自分たちのイメージで埋めました。」標準的な宗教的目的の源を拒絶した彼らは、SF的なトランスヒューマンの夢を通じて自分たちの人生に意義を与える代替経路を見つけた。あるいは、マスクがXで歌うように投稿したように：「無神論は空のスペースを残した。世俗宗教がその場所を取った。」

この新しい宇宙進化論は少なくともインターネットの初期から寄せ集められてきたが、人工知能の肩の上で息をのむような新たな地平に達し、トランスヒューマンの夢に広大な新たな可能性を開いた。テクノロジー寡頭制とその野望の批評家であるダグラス・ラシュコフは、1980年代の風刺番組を引用してこう述べた：「AIはマックス・ヘッドルーム的な存在の概念を妥当なものにすると思う。」

谷が提案するユートピアは奇妙に見えるかもしれないが、それは莫大で抑制のない富を持つビジネスの巨頭たちが自らの事業に超越的な価値を与えようとする長い伝統に適合している。ヘンリー・フォードもまた、自動車を製造するために製造業を変革する以上の使命があると信じていた。彼は社会を改善するために世界を再設計する使命を帯びていると信じていた。フォードは、ブラジルの熱帯雨林に工業規模のゴム農園を支える調和のとれた社会秩序を作ろうとするフォルランジアを建設した。アルトマン、マスク、そしてシリコンバレーの面々は、意識をAIと融合させ宇宙を征服したいと考えている。これらのビジョンの距離は、主に彼らの時代の技術的可能性に関係している。彼らが人間が感謝すべき何らかのユートピア的ビジョンを設計しているという主張は、それほど変わらない。

ノーベル賞経済学者ダロン・アセモグルが書いたように：「このテクノロジーを世界に解き放つ一握りの人々は、（人類に対する）支配のイデオロギーと、機械は人間より優れているという確信に導かれている。」私たち他の者にとっての危険は、テクノロジー寡頭制の願望が、現在の経済と社会をどのように再形成するかにある。彼らはリソース（資本、エネルギー、鉱物、水）をAIの促進とトランスヒューマンの夢の実現に向け、医療、教育、貧困削減を犠牲にしている。

アメリカ人はこのAI大物たちの抑制のない食欲に不快感を示し始めているが、トランプ政権はこれまでのところ、規制のガードレールを設置したり、彼らの取り組みを何らかの形で制限しようとする兆候をほとんど示していない。

未来のユートピアのメニューには様々な見解がある。アルトマンとペイジは、人間を超知能技術と融合させ、肉体を捨て去る目標に最もコミットしている。アルトマンは、脳の解剖学的レイアウトと分子詳細から情報を取得し、将来意識を再現することを提案するスタートアップNectomeの初期購読者だった。「自分の脳はクラウドにアップロードされると思う」とアルトマンはMITテクノロジーレビューに語った。

マスクは少し異なるものを望んでおり、宇宙に向かうが肉体に執着し、自身の脳-コンピュータインターフェース企業Neuralinkのようなものでコンピュータによって強化される。PayPalとPalantirで有名なピーター・ティールは「私をシミュレートするコンピュータプログラム」には否定的だが、「人間の自然な身体が不死の身体に変容する」という技術的理想に引き寄せられる。

しかし、ビジョンは収束する。例えば、ペイジは、慈善事業に寄付するよりもマスクに与えるほうがいいと示唆した。彼がかつてチャーリー・ローズに語ったように、マスクは人類が拡大するためのバックアップ惑星を提供するために火星に行きたいと考えており、それは貢献する価値のある目標である。

これらのSF的野心には、共通の道徳的目的の源がある。核心的な出発点の一つはかなり地上的なものである：実効利他主義運動は、その非情なまでの合理性で技術エリートを魅了した。実効利他主義者は、慈善活動は大部分が地域図書館への資金提供などで無駄になると主張した。寄付者は目的を持ち、最も多くの人々に最大の利益をもたらす場所に慎重に資金を向ける必要がある。これは不合理な提案ではない。例えば、アフリカでのマラリア撲滅など、称賛に値する努力を奨励した。しかし、それは最終的に現在の地球人のニーズから逸脱した。

まず、実効利他主義から生まれた長期主義者は、未来の世界を改善することは現在に費やすことよりも価値があると主張した。そこから目標を宇宙に移すのはほんの小さな一歩だった：遠い未来に銀河の広大な範囲に住む無数のトランスヒューマンの幸福に焦点を当てるのはどうか？彼らは肉体を持つかもしれないし、持たないかもしれない。

信念と願望の絡まりに迷い込むのは簡単だ——それらはウィリアム・マッカスキルやニック・ボストロムのような学者によって、テクノロジー寡頭制の急増する富によって資金提供された大学の学科やシンクタンクで明確化され洗練されている。それらは非正統的な倫理学や物理学の特異な解釈から引き出されている。目標は：人類（または少なくともその最も特権的な部分）をかつてない場所に連れて行くという命令を正当化することだ。

この一派の目標の一つは、文明が消費するエネルギー量の尺度であるカルダシェフ・スケールを上昇させ、生物学的一線を超越するために必要なエネルギーと技術的能力を獲得することだ。現在の人類ははしごの最下段にあり、地球のエネルギーさえも消費していない。先進文明は、少なくとも恒星の全エネルギーを消費すると考えられている。

1990年代にトランスヒューマンな未来を推進した初期のグループの一つは、超リバタリアンの「エクストロピアン」であり、エリエザー・ユドコウスキー、ボストロム、経済学者ロビン・ハンソンなどの主要な知識人が含まれていた。彼らの核心原則には、「無限の拡大：より多くの知性、知恵、効果、無限の寿命を求め、自己実現と自己超越への政治的、文化的、生物学的、心理的限界を取り除くこと。私たちの進歩と可能性の制約を永久に克服すること。宇宙に拡大し、終わりなく前進すること」とあった。

もう一つのより最近の分派は「効果的アクセラレーショニスト」である。彼らは物理学を自分たちの大義に徴用しようと試み、知的寿命を最大化することは必須であると議論している——なぜなら生命は環境から利用可能なエネルギーを抽出し、それを散逸させることに優れており、物理学で「エントロピー」として知られるものを増加させるからだ。Beff Jezos（運動の指導者の一人であるギヨーム・ヴェルドンのオンライン上のアイデンティティ）が述べるように：「効果的加速主義は『宇宙の意志』に従うことを目的としている：宇宙から自由エネルギーを見つけ/抽出し、それをより大きなスケールで効用に変換するのに効果的な、より大きくより賢い文明を持つ未来に向けた熱力学的バイアスに傾くこと。」

これらはAI企業ではなく、防衛契約業者だ。私たちは未来を、SFの夢に駆られた億万長者たちに託している。