教皇はAGIに夢中になっていない

月曜日、教皇レオ14世は人工知能の社会的影響を扱った回勅を発表した。『マグニフィカ・フマニタス』と題されたこの文書は、「AIの使用は決して純粋に技術的な問題ではない。人々の生活に影響を与えるプロセスに入り込むとき、それは権利、機会、地位、自由に触れる」と警告している。教皇の隣にはAnthropicの共同創業者で解釈可能性チームのリーダーであるクリストファー・オラーが立ち、カトリック教会とAI最大手の一角との連携を示した。

この回勅はテック業界内外から幅広い反応を引き起こした。ほぼ全員がこの文書は影響力を持つと信じていた。一部の批評家は踏み込みが不十分だと疑問視し、他の人々は汎用人工知能（AGI）について議論すべきだと主張した。AGIは多くの企業が目前に迫っていると主張している。さらに別のグループは教皇の見解が的確だと考えた。

「これは、従業員を解雇してAIに置き換えると公然と宣言し、政治の場に資金を投入して自分たちに有利なルールを書き換えようとしている大手テックCEOへの明らかな皮肉だった」とテック監視プロジェクトのエグゼクティブディレクター、サシャ・ホーワースは述べた。

教皇の回勅は、AIの力の増大に対する反発が高まる中で発表された。米国成人の6割は、日常生活でのAIの使われ方について「ほとんどコントロールできない」と感じており、データセンター建設に抗議するデモが増加し、AIのCEOを攻撃しようとする試みさえある。

オラーの登場が示すように、教皇の書簡はAIを良い応用が可能な技術と描写しており、そのトーンは賛否を呼んだ。「AI企業を批判している点は良いが、もっと厳しくすべきだと思う」と、元OpenAI社員で非営利団体AIフューチャーズ・プロジェクトを率いるAI研究者ダニエル・ココタイロはThe Vergeに語った。逆に、ソフトウェア企業OptroのAIガバナンスGMであるグル・セサパシー博士は、「教皇レオ14世とバチカンはAIに反対しているのではなく、人類にとって最善の責任ある道を追求している」という兆候に勇気づけられたと述べた。

バチカンとの連携は、競合他社よりも信頼できる代替手段として慎重に築かれた評判に基づいてビジネスを構築してきたAnthropicの戦略的動きだった。Anthropicはここ数ヶ月、軍事利用の制限をめぐってペンタゴンとの争いに巻き込まれており、別の強力な機関とのつながりはその地位を強化し、将来のバチカンの勧告を形成するのに役立つ可能性がある。

多くのテック関係者にとって文書の論争点の一つは、AGIやスーパーインテリジェンスについて全く触れていないことだった。AIシステムが「速度と計算能力において人間の知能をしばしば上回る」ことを認める一方で、「人間が知恵を育む感情的、関係的、精神的な視点を欠いている」と述べている。アメリカン・イノベーション財団のシニアフェロー、ディーン・W・ボールはXに、「この回勅は、AIに関する伝統的な学界や市民社会の決まり文句への執着を減らし、AIの向かう先にもっと関与していれば、はるかに改善されるだろう。しかしそうせずに、回勅は深い意味で回避し、AIが『本当に考える』とか『本当に学ぶ』ことを否定している」と書いた。ココタイロも、AGIやスーパーインテリジェンスの可能性を「もっと真剣に」受け止めるべきだったと述べた。

しかし、この文書はすべてを網羅することを意図していないと、テクノロジー関係者やカトリック関係者がThe Vergeに語った。

「これは主要なカトリック社会教説文書です」と、聖ヨセフ平和修道女会の補佐修道院長シスター・スーザン・フランソワは述べた。「AIについてではなく、AI時代における人間の保護についてです。」未来生命研究所の米国信仰連絡担当者でノートルダム神学校のカトリック社会教説講師であるブライアン・ボイドは、この文書を「具体的な行動命令というよりは、闘いへの呼びかけ」と呼んだ。教皇は回勅全体を通じて「正義を支え、技術力の歪んだ効果を抑制する適切な規制手段を確立する」よう呼びかけたが、具体的な提案には踏み込まなかった。

テック監視プロジェクトのホーワースは、この回勅を「世界、少なくとも西洋世界の道徳的方向性の羅針盤を設定するもの」と見ていると述べた。「カトリックでなくても、この文書に自分の懸念や希望、恐れを見ることができる。」彼女は、選出された指導者たちがAGIに関する具体的な懸念に取り組み、強力なテック企業を説明責任を負わせる役割を果たすことを期待しており、教皇の文書が「すべての人にとってすべてのものである」必要はないと述べた。また、この文書を「サブクラスの創造について語った文書であり、指導者や政治家への警告」と呼んだ。

一部の人にとって、回勅がAGIに注意を払っていないことは問題ではなかった。なぜなら、それは教皇が、研究室がAGIのマイルストーンに到達した場合の人類全体への潜在的なリスクではなく、現在の技術が脆弱なコミュニティに与える現実世界の影響に焦点を当てていると受け取ったからだ。

暗号化データの整理を支援するスタートアップOpaque SystemsのCEO、アーロン・フルカーソンは、教皇は「実際にシステムを見て、テック業界の多くの人が人類へのシステムリスクと認識するものを強調している。AGIについて話しているわけではない。グローバル経済について話している」と述べた。

現在のAIの波の前から、テック業界の集中は危険だった。サイバーセキュリティ企業CrowdStrikeの問題で世界中の銀行、病院、航空会社が停止し、Amazon Web Servicesの停止でRedditからVenmoまでインターネットの広範囲がダウンした。フルカーソンにとって、グローバル経済へのリスクは、少数のAIラボに権力が集中するにつれて増大する。

「私がニュースで見てきたのは、教皇対テックブローカーという権力力学のポジショニングですが、誰もがより大きなストーリーを見逃していると思います。それは、彼が本質的にリスクのあるシステムを見ているということです」とフルカーソンは述べた。「私たちは、1つか2つのラボが地球上のすべての産業の認知インフラとなる世界に夢遊病者のように歩み寄っている。つまり、人類はより能力があるどころか、はるかに回復力が低くなるということです。」

回勅の中で、教皇はAIをバベルの塔に例え、その構造は「多様性を排除し、交わりよりも均質化を選んだ均一性に支えられている」と述べている。世界は「バベルの症候群」を避けなければならないと彼は書いている。「弱者の犠牲の上に成り立つ利益の偶像崇拝、差異を中和する均一性、そして単一の言語（たとえデジタル言語であっても）が、人の神秘を含むすべてをデータとパフォーマンスに変換できるという思い込み。」彼の考えでは、AIは新しい技術であるだけでなく、聖書的な闘いになった。「非人間化のリスクは、古くて常に新しい誘惑であり、今日では技術的な装いをまとっている」と彼は書いた。これらの声明の重みは、技術的な詳細ではなく、その永続的な影響となるだろう。