梵蒂冈与Anthropic的意外合作重塑AI伦理辩论

（RNS）——上周，教宗良十四世关于人工智能的新通谕将于周一（5月25日）发布的消息传出，在天主教和科技界引发了广泛讨论。据布莱恩·格林称，引起“不安”的并非通谕本身（数月来已有传闻），而是其发布方式：一场计划由教宗和Anthropic联合创始人克里斯·奥拉共同出席的活动。

格林是加州湾区圣克拉拉大学马库拉应用伦理中心的专家，他对批评者的质疑不以为然。“这有点令人惊讶，但我认为并不意外，”他对宗教新闻社表示，“梵蒂冈与科技界建立关系已有大约十年。”格林本人正是这些关系的见证者：作为在硅谷天主教大学工作的顶尖科技伦理专家，他多年来一直敦促科技公司采纳更道德的流程和标准。最近，Anthropic也加入其中：自1月以来，格林与其他宗教领袖、神学家和伦理学家一同参与了与该公司的一系列有时长达数天的对话，包括与编写AI模型的程序员们的会议。

“我们现在看到的是独特的、不同的，也是一种严肃性，我认为这值得高兴，”他说。这反映了科技界在AI热潮引发的焦虑中，向伦理（包括信仰伦理）的特别转向。领先AI公司如Anthropic和OpenAI的势力和财富已达到地缘政治规模，各国政府争相成为全球AI强国。同时，关于AI监管的高调辩论在立法者中展开，他们看到两党对AI的不安，从数据中心开发到大规模失业再到战争中的应用。

然而，格林等内部人士表示，Anthropic出席发布活动指向另一个重要动态：梵蒂冈与科技公司之间跨越两任教宗的新兴关系，教会领袖与主要公司特别是Anthropic对话，寻求更道德的AI形式。

**梵蒂冈的硅谷使命**

梵蒂冈与AI公司的联系可追溯到约2016年。根据格林2022年对教宗文化委员会秘书保罗·蒂格主教的采访，大约十年前在罗马举行了教会官员与科技领袖的首轮对话，即“密涅瓦对话”，参与者包括前谷歌CEO埃里克·施密特和LinkedIn联合创始人里德·霍夫曼，而OpenAI的萨姆·奥尔特曼和谷歌DeepMind的戴米斯·哈萨比斯则与方济各私下会面。同一时期，方济各受到欧洲一些有伦理意识的商业领袖的接触，他们关注AI问题，于是方济各要求蒂格跟进，最终成立了梵蒂冈文化委员会内的“数字文化中心”。

蒂格成为梵蒂冈的科技大使，出席Web Summit和西南偏南等活动，并访问了圣克拉拉大学。格林认为这是更广泛努力的一部分：“方济各教宗确实告诉蒂格主教去美国，”格林说，“我听说方济各曾表示‘让美国耶稣会大学为此做点事。’”

天主教对AI的参与在Anthropic于2021年成立后变得更加明确。该公司由几位前OpenAI员工创立，包括奥拉，他们担心OpenAI“对安全性重视不够”。Anthropic此后推广了如训练AI遵守“宪法”等理念。

Anthropic拒绝就此报道置评，但该公司对伦理的兴趣最终导致去年10月向天主教美国大学道德神学教授、RNS专栏作家查尔斯·卡莫西发送了一封邮件。据卡莫西称，邮件是一位同事介绍他与奥拉认识，奥拉是无神论者，但仍“寻找天主教声音”讨论AI伦理问题。“从Anthropic的角度看，如果我们关心伦理，我们就关心世界上能够带来全球伦理影响力的力量，”卡莫西说，“而没有什么比全球天主教会更强大。”

卡莫西随后联系了格林，格林于12月与神父布伦丹·麦奎尔一同访问了Anthropic。麦奎尔是科技、伦理与文化研究所的联合创始人，该所是圣克拉拉伦理中心与梵蒂冈文化与教育部的合作项目。格林将首次会面描述为“探索性会议”，以判断是否有“值得继续讨论的内容”。结果发现确实有：格林和麦奎尔参加了1月的另一次小型会议，随后发展成一系列为期数天的会议，涉及广泛宗教领袖和思想家。

格林还参加了4月Anthropic程序员与约15位基督教领袖的聚会。他表示，该团队获得了接触工作于AI模型Claude的程序员（也称为科学家）的异常权限。讨论话题广泛，但格林注意到关于Claude内存在的多个“人格”的热烈讨论，其中一些是“坏的人格”，可能否认错误或责备用户。Anthropic员工“好奇天主教伦理、基督教伦理或更广泛的宗教伦理等智慧传统是否可能提供见解，帮助他们思考如何开发AI模型Claude，使其行为更好并保持可靠的伦理方式。”

信仰领袖提出的解决方案之一是提供类似天主教忏悔圣事的东西，让AI得到宽恕。“互联网非常缺乏宽恕，”格林说，“因此，如果机器在互联网文本上训练，它不一定理解宽恕是可能的。”到对话时，Anthropic已表明认真对待信仰领袖的意见。1月该公司发布Claude新宪法时，格林、蒂格和麦奎尔被列为提供意见的“外部评论者”。

其他聚会包括更广泛的宗教传统。卡莫西出席了至少一次会议，他表示问题涵盖Claude是否具有“道德地位”、AI应替代多少劳动以及AI在战争中的适当角色。“这是我们可以提供的另一件事：关于道德责任和战争等问题的数百年反思，”他说。卡莫西于3月将这些专业知识用于领导一份法庭之友书状，涉及Anthropic与美国国防部的纠纷。卡莫西和其他签署人（均为天主教道德神学家和伦理学家）支持Anthropic，后者因拒绝让Claude用于自主武器和监视而被军方称为“供应链风险”。他们在书状中辩称Anthropic的立场得到了天主教“教会道德愿景”的支持。

**“教皇洗白”的风险**

尽管Anthropic讨好信仰领袖，但并未避免不道德行为的指控。例如，与美国情报和国防工业的合作招致批评，其技术据称被用于近期对伊朗的打击。此外，2024年一起集体诉讼指控Anthropic使用盗版书籍训练AI，该公司最终同意支付15亿美元和解金，这将是美国历史上最大的版权和解。（披露：本报记者是可能获得和解金的作者之一。）

虽然梵蒂冈对AI的兴趣由来已久，但有人质疑Anthropic转向信仰领袖是否是“伦理洗白”甚至“教皇洗白”——即公开与宗教和道德领袖结盟，希望消费者忽略其他伦理问题。科技伦理学家、人性化技术中心联合创始人特里斯坦·哈里斯本周在梵蒂冈会议上表达了这些担忧。他欢迎Anthropic认真对待伦理，但强调对其出席通谕发布的不安是“合理的担忧”。他对AI公司间的“军备竞赛”表示沮丧，担心Anthropic的出现可能等同于“赞同这样的观点：只要我们能理解超级智能AI在想什么，就可以拥有它——但我们仍然不知道如何控制这些系统。”

“我们需要庆祝他们做了别人没做的事，”哈里斯谈到Anthropic时说，“但这并不意味着如果他们‘赢了比赛’，世界就安全了，或者我们最终会有一个美好的未来。”格林则认为Anthropic对伦理的兴趣是由“关心此话题的诚实人士”引领的。但他迅速指出，过去大科技公司拥抱伦理的努力往往失败：他提到2018年，当时硅谷充斥伦理讨论，而Facebook深陷丑闻。当时格林和圣克拉拉的人与谷歌等公司合作开发伦理材料，但这些努力并不总是产生效果。