AIと「古典的自由主義」の危機

今週、米国企業協会（AEI）の新たなAI倫理評議会が、その原則と目標を概説した「設立文書」を『The New Atlantis』誌上で発表した。この組織の設立は、AEIフェローのM.アンソニー・ミルズが以前に呼びかけた、ブッシュ政権時代の大統領生命倫理評議会をモデルとした「大統領AI評議会」の要請に応えたものである。トランプ政権はそのような組織を設置しなかったため、AEIが率先して、主に社会的保守派の思想家を集め、「AIが人間の意味と目的について提起する最も深い問い」を探求することにした。

文書は、 「雇用喪失、偏見、AI開発におけるスピードと安全性のトレードオフのような実務的問題」への対処を避け、規制の議論を避けて哲学的考察に専念することを宣言している。この控えめな態度の根拠はもっともらしいが、右派内部の宗教的・社会的保守派と技術加速主義者の間の新たな緊張の証拠と見なさないわけにはいかない。今週『Compact』誌に寄稿した編集主幹グレッグ・コンティは、AIをめぐるこの新たな「分裂」を「アメリカ右派の将来の最も重要な決定要因」と特定した。

ブッシュ政権の生命倫理評議会は、新しいAEI評議会と同様に社会保守派と宗教保守派で構成されていたが、自由派からは退行的な神権政治のアジェンダを追求し、幹細胞研究のようなプロジェクトを妨害する手段と見なされ、バラク・オバマ大統領は就任直後に解散させた。今日では、AI開発のモラトリアムを主張するのは左派の政治人物であることが多く、トランプ政権はいくつかの逸脱はあるものの、概ね「成り行きに任せる」アプローチをとっている。しかし、私が以前に論じたように、進歩的なAI批評家はしばしばその立場を説明するのに「イライラした精神的なジェスチャー」以上のものを提供せず、新技術の課題についての実質的な説明を避けている。対照的に、宗教思想家——特に教皇レオ——はより洞察力に富んでいた。

AEIは宗教的・社会的保守主義の拠点というよりも、揺るぎない自由放任主義の擁護者として知られている。この点で、新評議会が表明したAIに対する深い留保はやや驚くべきものかもしれない。今日のテクノロジー右派は、しばしば自由市場絶対主義者を自任し、テクノロジーに対する懸念を「ウェイク」または「共産主義」のアジェンダの隠れ蓑として退ける傾向がある。X上でe/accの支持者たちにとって、最新モデルの素晴らしさに酔いしれない者は、おそらくすべてのイノベーションを潰そうとする全体主義的「安全主義」体制の役立たずの馬鹿だろう。

新評議会は特定の規制を支持しないものの、その見解は少なくとも、AI開発を制限することを正当化するような懸念に合理的な根拠があることを示唆している。文書の冒頭では、生命倫理学者レオン・カスの「嫌悪の知恵」の概念を引用している。これは「一般市民が周囲で起きている変化に対して持つ本能的な反応は、倫理的考察の出発点として価値がある」というものだ。前述したように、今日のAIに対する本能的な反発はしばしば左派から来ており、バーニー・サンダースとAOCが支持するデータセンターモラトリアムのような提案に変換されている。カスは20年前のヒトクローニング禁止の連邦法制定の試みに影響を与えており、AEI文書を読めば、その議論がどのように超知能禁止を支持するために利用されるかは難しくない。

明らかに、現在のAIの軌道は、融合主義の二つの不安定な脚であるビジネスと宗教の間の緊張を再び前面に押し出している。しかし、より興味深いのは、AIが共和党のビジネス派の標準的な「古典的自由主義」自由市場フレームワーク内で生み出しているジレンマである。これらのジレンマの代表例は、自称古典的自由主義者で元トランプ政権AI顧問であり、自由放任のAI行動計画の著者であるディーン・W・ボールの影響力のある研究である。政権を去った後、ボールは政府の混乱した場当たり的な産業統制の試み、特にその主な悩みの種であるAnthropicを批判してきた。ボールは「文字通りほとんどすべてのAI規制に反対する」と述べてきたが、今年初めにバイデン政権のカウンターパートであるベン・ブキャナンと共に『ニューヨーク・タイムズ』のオピニオン記事を共同執筆し、「適切なガードレール」、特に「壊滅的リスク」に関して主張した。

このオピニオン記事の出現により、かつてのe/accの味方たちはX上で彼を寝返り者として非難し、リューダイト的全体主義をもたらそうとする別の「ウェイクな安全主義者」に過ぎないと非難した。ボールの立場の長い弁護は示唆に富んでいたが、次の一節が特に際立っていた。

「根本的に、私は国家をある種の悲劇的必要性、単に我慢しなければならないものと見なしている。なぜなら、国家なしでは、我々が想像できるいかなる文明も不可能だからだ。AIがこれを変える可能性があると思う——非常に広義の『AI』がいつか国家の核となる機能を十分に遂行できるようになり、新しい文明のアーキテクチャが可能になるかもしれない。『古典的自由主義者』として、私はこれに興味をそそられている。しかし、私はまた保守派でもあり、保守派として、この考えは私を恐怖させる。保守派の私は、世界を再構築するトップダウンのプロジェクト（リバタリアン的な傾向を持つプロジェクトを含む）に懐疑的だ。」

保守主義と超知能を開発する計画との間に緊張がある理由は明白だ。ここでより注目すべきは、ボールがAIによる「国家の核となる機能の遂行」への魅了を古典的自由主義感覚の表現として定義しながら、このビジョンが「世界を再構築するトップダウンプロジェクト」にも等しいと懸念している点だ。（実際、それは明らかにそうである。）では、問題は次の通りである：いったいどのようにして「古典的自由主義者」がそのような計画に魅了されるのだろうか？古典的自由主義は、保守主義だけでなく、本質的に「トップダウンのプロジェクト」に対して敵対的ではないのか？

ボールが「新しい文明のアーキテクチャ」という一節で示唆しているのは、哲学者ニック・ボストロムが数十年前に明確にした概念であり、2014年の著書『超知能』はAI業界全体とその周辺文化に深遠な影響を与えた。その中でボストロムは、彼がしばらく議論してきた概念を要約している：シングルトン。彼はそれを「世界的なレベルで単一の意思決定機関が存在する世界秩序」と定義している。この概念を議論する章で、彼は現在のAI軍拡競争の参加者が概ね想定する仮説的シナリオを探求している。ボストロムは問いかける：「ある機械知能プロジェクトが競争相手に大きく差をつけ、決定的な戦略的優位性——すなわち、完全な世界支配を可能にするのに十分な技術的およびその他の優位性——を獲得するだろうか？」その結果の勝利は、シングルトンを確立する舞台を整えると彼は示唆する。

これを念頭に置くと、AI時代の古典的自由主義の危機を次のように定義できる。その標準的な立場は、競争的な企業の繁栄がすべての人をより裕福にするという理由で、民間産業への政府の介入を最小限にするよう要求する。そのような介入はいかなるものであれ、全体主義的統計的専制への滑りやすい坂道であると主張される。今日の問題は、最も称賛される民間産業のリーダーたちが、その技術がすべての人をより裕福にするどころか、「恒久的な下層階級」を生み出し、UBIのようなものを必要とするかもしれないと定期的に発表していることである。この点は最近、「ウェイクな」Anthropicタイプではなく、技術右派の顔であるイーロン・マスクによって再び強調された。さらに、ボストロムに影響された多くの業界関係者は、自分たちが作り出しているものが古典的自由主義者が警告するような技術官僚的な世界政府の道具であると信じている。したがって、ボールが認識するように、現在のAIの軌道への自由放任アプローチは、結局「世界を再構築するトップダウンプロジェクト」に等しいことが判明する。おっと！

もしあなたがニック・ランドのような冷静さを持っているなら、これらはあまり気にならないだろう。しかし、ほとんどの古典的自由主義者はそうではないと私は推測する——それがおそらく、AEIが化石燃料に関する保守派の立場よりも、幹細胞研究に関する保守派の立場に近い姿勢を取っている理由だ。私のさらなる提案は、この行き詰まりは古典的自由主義者が人間の繁栄と国家の関係についての基本的な説明やその他多くのことを再考する機会かもしれないということだ——しかし、今のところそれは求めすぎかもしれない。