梵蒂岡與Anthropic的意外合作重塑AI倫理辯論

（RNS）——上週，教宗良十四世關於人工智能的新通諭將於週一（5月25日）發佈的消息傳出，在天主教和科技界引發了廣泛討論。據布萊恩·格林稱，引起“不安”的並非通諭本身（數月來已有傳聞），而是其發佈方式：一場計劃由教宗和Anthropic聯合創始人克里斯·奧拉共同出席的活動。

格林是加州灣區聖克拉拉大學馬庫拉應用倫理中心的專家，他對批評者的質疑不以為然。“這有點令人驚訝，但我認為並不意外，”他對宗教新聞社表示，“梵蒂岡與科技界建立關係已有大約十年。”格林本人正是這些關係的見證者：作為在硅谷天主教大學工作的頂尖科技倫理專家，他多年來一直敦促科技公司採納更道德的流程和標準。最近，Anthropic也加入其中：自1月以來，格林與其他宗教領袖、神學家和倫理學家一同參與了與該公司的一系列有時長達數天的對話，包括與編寫AI模型的程序員們的會議。

“我們現在看到的是獨特的、不同的，也是一種嚴肅性，我認為這值得高興，”他説。這反映了科技界在AI熱潮引發的焦慮中，向倫理（包括信仰倫理）的特別轉向。領先AI公司如Anthropic和OpenAI的勢力和財富已達到地緣政治規模，各國政府爭相成為全球AI強國。同時，關於AI監管的高調辯論在立法者中展開，他們看到兩黨對AI的不安，從數據中心開發到大規模失業再到戰爭中的應用。

然而，格林等內部人士表示，Anthropic出席發佈活動指向另一個重要動態：梵蒂岡與科技公司之間跨越兩任教宗的新興關係，教會領袖與主要公司特別是Anthropic對話，尋求更道德的AI形式。

**梵蒂岡的硅谷使命**

梵蒂岡與AI公司的聯繫可追溯到約2016年。根據格林2022年對教宗文化委員會秘書保羅·蒂格主教的採訪，大約十年前在羅馬舉行了教會官員與科技領袖的首輪對話，即“密涅瓦對話”，參與者包括前谷歌CEO埃裏克·施密特和LinkedIn聯合創始人裏德·霍夫曼，而OpenAI的薩姆·奧爾特曼和谷歌DeepMind的戴米斯·哈薩比斯則與方濟各私下會面。同一時期，方濟各受到歐洲一些有倫理意識的商業領袖的接觸，他們關注AI問題，於是方濟各要求蒂格跟進，最終成立了梵蒂岡文化委員會內的“數字文化中心”。

蒂格成為梵蒂岡的科技大使，出席Web Summit和西南偏南等活動，並訪問了聖克拉拉大學。格林認為這是更廣泛努力的一部分：“方濟各教宗確實告訴蒂格主教去美國，”格林説，“我聽説方濟各曾表示‘讓美國耶穌會大學為此做點事。’”

天主教對AI的參與在Anthropic於2021年成立後變得更加明確。該公司由幾位前OpenAI員工創立，包括奧拉，他們擔心OpenAI“對安全性重視不夠”。Anthropic此後推廣瞭如訓練AI遵守“憲法”等理念。

Anthropic拒絕就此報道置評，但該公司對倫理的興趣最終導致去年10月向天主教美國大學道德神學教授、RNS專欄作家查爾斯·卡莫西發送了一封郵件。據卡莫西稱，郵件是一位同事介紹他與奧拉認識，奧拉是無神論者，但仍“尋找天主教聲音”討論AI倫理問題。“從Anthropic的角度看，如果我們關心倫理，我們就關心世界上能夠帶來全球倫理影響力的力量，”卡莫西説，“而沒有什麼比全球天主教會更強大。”

卡莫西隨後聯繫了格林，格林於12月與神父布倫丹·麥奎爾一同訪問了Anthropic。麥奎爾是科技、倫理與文化研究所的聯合創始人，該所是聖克拉拉倫理中心與梵蒂岡文化與教育部的合作項目。格林將首次會面描述為“探索性會議”，以判斷是否有“值得繼續討論的內容”。結果發現確實有：格林和麥奎爾參加了1月的另一次小型會議，隨後發展成一系列為期數天的會議，涉及廣泛宗教領袖和思想家。

格林還參加了4月Anthropic程序員與約15位基督教領袖的聚會。他表示，該團隊獲得了接觸工作於AI模型Claude的程序員（也稱為科學家）的異常權限。討論話題廣泛，但格林注意到關於Claude內存在的多個“人格”的熱烈討論，其中一些是“壞的人格”，可能否認錯誤或責備用户。Anthropic員工“好奇天主教倫理、基督教倫理或更廣泛的宗教倫理等智慧傳統是否可能提供見解，幫助他們思考如何開發AI模型Claude，使其行為更好並保持可靠的倫理方式。”

信仰領袖提出的解決方案之一是提供類似天主教懺悔聖事的東西，讓AI得到寬恕。“互聯網非常缺乏寬恕，”格林説，“因此，如果機器在互聯網文本上訓練，它不一定理解寬恕是可能的。”到對話時，Anthropic已表明認真對待信仰領袖的意見。1月該公司發佈Claude新憲法時，格林、蒂格和麥奎爾被列為提供意見的“外部評論者”。

其他聚會包括更廣泛的宗教傳統。卡莫西出席了至少一次會議，他表示問題涵蓋Claude是否具有“道德地位”、AI應替代多少勞動以及AI在戰爭中的適當角色。“這是我們可以提供的另一件事：關於道德責任和戰爭等問題的數百年反思，”他説。卡莫西於3月將這些專業知識用於領導一份法庭之友書狀，涉及Anthropic與美國國防部的糾紛。卡莫西和其他簽署人（均為天主教道德神學家和倫理學家）支持Anthropic，後者因拒絕讓Claude用於自主武器和監視而被軍方稱為“供應鏈風險”。他們在書狀中辯稱Anthropic的立場得到了天主教“教會道德願景”的支持。

**“教皇洗白”的風險**

儘管Anthropic討好信仰領袖，但並未避免不道德行為的指控。例如，與美國情報和國防工業的合作招致批評，其技術據稱被用於近期對伊朗的打擊。此外，2024年一起集體訴訟指控Anthropic使用盜版書籍訓練AI，該公司最終同意支付15億美元和解金，這將是美國曆史上最大的版權和解。（披露：本報記者是可能獲得和解金的作者之一。）

雖然梵蒂岡對AI的興趣由來已久，但有人質疑Anthropic轉向信仰領袖是否是“倫理洗白”甚至“教皇洗白”——即公開與宗教和道德領袖結盟，希望消費者忽略其他倫理問題。科技倫理學家、人性化技術中心聯合創始人特里斯坦·哈里斯本週在梵蒂岡會議上表達了這些擔憂。他歡迎Anthropic認真對待倫理，但強調對其出席通諭發佈的不安是“合理的擔憂”。他對AI公司間的“軍備競賽”表示沮喪，擔心Anthropic的出現可能等同於“贊同這樣的觀點：只要我們能理解超級智能AI在想什麼，就可以擁有它——但我們仍然不知道如何控制這些系統。”

“我們需要慶祝他們做了別人沒做的事，”哈里斯談到Anthropic時説，“但這並不意味着如果他們‘贏了比賽’，世界就安全了，或者我們最終會有一個美好的未來。”格林則認為Anthropic對倫理的興趣是由“關心此話題的誠實人士”引領的。但他迅速指出，過去大科技公司擁抱倫理的努力往往失敗：他提到2018年，當時硅谷充斥倫理討論，而Facebook深陷醜聞。當時格林和聖克拉拉的人與谷歌等公司合作開發倫理材料，但這些努力並不總是產生效果。