バチカンとAnthropicの意外な関係がAI倫理議論を再構築

（RNS）—先週、教皇レオ14世の人工知能に関する新しい回勅が月曜日（5月25日）に発表されるというニュースが流れると、カトリック界とテクノロジー界の両方で議論が巻き起こった。ブライアン・グリーンによれば、不安を引き起こしたのは回勅そのもの（数ヶ月前から噂されていた）ではなく、その発表方法、すなわち教皇だけでなく、大手米AI企業Anthropicの共同創設者クリス・オラーも出席するイベントでの発表だった。

批評家たちがオラーの出席の妥当性を疑問視する一方で、カリフォルニア州ベイエリアのサンタクララ大学マークラ応用倫理センターで働くグリーンはほとんど動じなかった。「少し驚きですが、予想外だとは思いません」と彼は今週、宗教ニュースサービスに語った。「バチカンは約10年にわたりテクノロジーコミュニティとの関係を育んできました。」

グリーンはそれをよく知っている。シリコンバレーのカトリック大学で働く第一線のテクノロジー倫理専門家として、彼は何年もテクノロジー企業により倫理的なプロセスと基準を取り入れるよう促してきた。そして最近、その中にはAnthropicも含まれている。グリーンは1月以来、同社と数日間に及ぶこともある一連の対話に参加してきた数人の宗教指導者、神学者、倫理学者の一人であり、AIモデル自体を構築するプログラマーとのセッションも含まれている。

「私たちが今見ているのはユニークで、異なっており、喜ばしいことだと思う真剣さです」と彼は述べた。これは、AIブームとその日常生活への急激な混乱の可能性に対する不安の高まりの中で、テクノロジー界で起きている倫理（信仰に基づく倫理を含む）への特異な転換の一部である。AnthropicやOpenAIなどの大手AI企業の力と富は地政学的規模に達し、世界各国の政府は自らを世界的AI大国として位置づけようと競い合っている。一方、AI規制をめぐる注目度の高い議論が、データセンターの開発から広範な失業、戦争におけるテクノロジーの使用に至るまで、AIに対する超党派の不安を見る議員たちの間で行われている。

しかし、大学も月曜日の回勅発表で代表者が講演する予定であるグリーンのような内部関係者は、Anthropicの発表イベントへの参加は別の大きな力学、すなわち2人の教皇にわたるバチカンとテクノロジー企業との新たな関係を示していると言う。教会指導者たちは主要企業、特にAnthropicと、より倫理的なAIの形を生み出す方法について対話している。

**バチカンのシリコンバレーへの使命**

バチカンとAI企業との結びつきはおおよそ2016年にさかのぼることができる。グリーンが2022年に、バチカン文化評議会の秘書を務めるポール・タイグ司教に対して行ったインタビューによれば、教会関係者とテクノロジーリーダーとの最初の一連の対話がローマで行われたのは約10年前のことである。「ミネルヴァ対話」として知られるこれらの対話には、元Google CEOエリック・シュミットやLinkedIn共同創設者リード・ホフマンなど、シリコンバレーの有力人物が参加し、OpenAIのサム・アルトマンやGoogle DeepMindを指揮するデミス・ハサビスなどの他のテクノロジー経営者はフランシスコと個別に謁見した。

タイグ司教はインタビューで、同じ頃、当時の教皇フランシスコが「AIに関する新たな問題に非常に敏感だった欧州の倫理意識の高いビジネスリーダー数人から接触を受けた」と述べている。フランシスコはタイグに「これらの取り組みをフォローアップする」よう要請し、その結果、バチカン文化評議会内に「デジタル文化センター」が設立された。

一方、タイグはバチカンのテクノロジー大使のような存在となり、Web SummitやSouth by Southwestなどのイベントに出席し講演した。また、イエズス会の学校であるサンタクララ大学も訪問しており、グリーンはこれをより広範な取り組みの一部と見ている。「教皇フランシスコはタイグ司教にアメリカに行くように言いました」とグリーンは語る。「私が聞いたところでは、ある時点で教皇フランシスコは『アメリカのイエズス会大学にこれについて何かさせるように』と言ったそうです。」

カトリックとAIとの関わりは、2021年のAnthropic設立後により明確になった。同社は、OpenAIが「安全性を十分に真剣に考えていなかった」と懸念したいくつかの元OpenAI社員（オラーを含む）によって設立された。Anthropicは以来、AIに「憲法」に従うよう訓練するなどのアイデアを推進している。

Anthropicはこの記事へのコメントを拒否したが、同社の倫理への関心は結局、昨年10月にカトリック大学アメリカ校准教授でRNSコラムニストのチャールズ・カモシーに送られた電子メールにつながった。カモシーによると、そのメールは同僚からで、オラーを紹介するものだった。オラーは無神論者でありながら、AIに関する倫理的問題について話し合うために「カトリックの声」を求めていたという。「Anthropicの観点からすれば、倫理を重視するなら、世界に倫理的な重みをもたらすことができる世界の勢力に関心を持つことになります。そして、世界的なカトリック教会に匹敵するものは本当にありません」とカモシーは述べた。

カモシーは次にグリーンに連絡を取り、グリーンは12月に、AIについて広範に執筆しているカトリック司祭のブレンダン・マクガイア師とともにAnthropicを訪問した。2人は確かな資格を持っていた。グリーンの専門知識に加え、マクガイアはテクノロジー・倫理・文化研究所の共同創設者であり、同研究所はサンタクララの倫理センターと、タイグ司教が秘書を務めるバチカンの文化教育省との協力プロジェクトである。

グリーンは最初のAnthropic会合を「探索的会合」と表現し、「話し合いを続ける価値のあるものがあるかどうか」を見極めるためのものだったと述べた。結果は、あった。グリーンとマクガイアは1月の別の小規模な1日会合に参加し、その取り組みはすぐに、さまざまな宗教指導者や思想家との複数日の会合シリーズに発展した。

グリーンはまた、4月に行われたAnthropicプログラマーと約15人のキリスト教徒指導者との集まりにも参加した。グループは、AIモデルClaudeに取り組むプログラマー（科学者とも呼ばれる）に異例のレベルのアクセスを与えられたと述べた。話し合われたトピックは多岐にわたったが、グリーンはClaude内に存在する複数の「ペルソナ」について活発な議論があったと指摘した。中には、間違いを犯したときに不正を否定したり、ユーザーを責めたりする「悪い」ペルソナもあるという。

Anthropicのスタッフは、「カトリック倫理、キリスト教倫理、あるいはより広い宗教倫理などの知恵の伝統が、AIモデルClaudeをより良く行動させ、倫理的な行動様式を確実に維持する方法を考えるための洞察を提供できるのではないかと興味を持つようになった」とグリーンは述べた。

信仰指導者たちが提案した解決策の1つは、Claudeにカトリックの告解の秘跡のようなものを提供することだった。それによりAIは赦しを得ることができる。「インターネットには赦しが非常に欠けています」とグリーンは言う。「ですから、インターネットのテキストで訓練された機械は、赦しが可能であることさえ理解できないかもしれません。」

その対話の時点で、Anthropicはすでに信仰指導者の意見を真剣に受け止める姿勢を示していた。1月に同社がClaudeの新しい憲法を発表した際、意見を提供した「外部コメンテーター」の中に、グリーン、タイグ、マクガイアが含まれていた。

他の集まりには、より多様な宗教的伝統が含まれていた。カモシーは少なくとも1回の会合に出席し、質問はClaudeが「道徳的地位」を持つかどうかから、AIがどの程度の労働を代替すべきか、戦争におけるAIの適切な役割まで多岐にわたったと述べている。「それが私たちが提供できるもう一つのことかもしれません。道徳的責任や戦争などについての何世紀にもわたる考察のセットです」と彼は語った。

カモシーは3月、Anthropicと米国防総省との間の紛争で提出されたamicus brief（意見書）を主導する際に、その専門知識を活用した。カモシーと署名者（全員がカトリックの道徳神学者および倫理学者）は、Anthropicの立場を支持した。Anthropicは、Claudeを自律型兵器や米国民の大量監視に使用することを拒否したため、軍から「サプライチェーンリスク」と呼ばれている。カモシーらは意見書で、Anthropicの立場はカトリックの「教会の道徳的ビジョン」に裏付けられていると主張した。

**「ポープ・ウォッシング」のリスク**

Anthropicが信仰指導者を歓迎しているにもかかわらず、非倫理的行為の告発を免れているわけではない。例えば、米国の情報機関や防衛産業との協力自体が批判を集めており、その技術は最近のイラン攻撃で使用されたより大規模な技術装置の一部だったと報じられている。

さらに、2024年には、Anthropicが「数十万冊の著作権のある本」の海賊版でAIを訓練したとして、同社に対する集団訴訟が提起された。訴訟は継続中だが、同社は最終的に15億ドルの和解金を支払うことに同意した。これは米国史上最大の著作権和解となる。（開示：本記者は、この訴訟で和解金を受け取る可能性のある著者の一人である。）

そして、バチカンのAIへの関心は長年にわたるものだが、Anthropicの信仰指導者への接近は「倫理ウォッシング」あるいは「ポープ・ウォッシング」、つまり、同社を宗教的・道徳的リーダーと公に結びつけることで、消費者に同社の他の倫理的問題を見過ごさせようとするものではないかと疑問視する声もある。

これらの懸念は今週、著名なテクノロジー倫理学者で、Center for Humane Technologyの共同創設者であるトリスタン・ハリス氏によって表明された。ハリス氏はバチカンの会議のためにローマに滞在しており、木曜日（5月21日）に記者団に対して、Anthropicが倫理を真剣に受け止めようとしていることを歓迎する一方で、同社の回勅発表への出席に対する不安は「妥当な懸念」であると述べた。彼は、AI企業間で進行中の「軍拡競争」に不快感を示し、Anthropicの回勅発表への登場は、「何を考えているか理解できる限り、この超知能AIを持つことは可能だという見解を支持することになるが、私たちはこれらのシステムを制御する方法をまだ知らない」のではないかと懸念した。

「私たちは、彼らが他の人がやっていないことをやっていることを祝福する必要があります」とハリス氏はAnthropicについて述べた。「しかし、彼らが『競争に勝った』としても、世界が安全であるとか、良い未来が待っているという意味では決してありません。」

グリーンは、Anthropicの倫理への関心は「この問題を気にかけている誠実な人々」によって主導されていると信じていると述べた。しかし彼は、過去に大企業が倫理を取り入れようとして失敗した例を指摘することを怠らなかった。2018年、シリコンバレーが倫理の話題で沸き返り、Facebook（現在のMeta）が注目度の高いスキャンダルに巻き込まれていた頃を挙げた。当時、グリーンとサンタクララ大学の同僚たちはGoogleなどの企業と倫理教材の開発に取り組んでいたが、それらの努力が常に違いを生んだわけではなかった。