教皇并未沉迷于AGI

周一，教皇方济各发布了一封通谕，探讨人工智能的社会影响。这封名为《伟大的人类》的通谕警告说：“使用人工智能从来不是纯粹的技术问题：当它进入影响人们生活的过程时，它就触及了权利、机会、地位和自由。”与他一同出席的还有Anthropic联合创始人兼可解释性团队负责人克里斯托弗·奥拉，这代表了天主教会与AI领域主要参与者之间的合作。

该通谕在科技行业内外引发了广泛反应。几乎所有人都认为这份文件将具有影响力。一些批评者质疑其是否足够深入，另一些人则认为它本应讨论人工通用智能（AGI），而许多公司坚称AGI即将到来。还有一些人认为教皇的观点恰到好处。

“这显然是对那些公然宣称要裁减员工、用AI取代‘低价值人力资本’，并试图通过政治影响力制定有利于自己规则的大型科技公司CEO们的影射，”科技监督项目执行主任萨沙·霍沃思表示。

教皇的通谕发布之际，正值AI影响力日益增长引发反弹。六成美国成年人认为他们对AI在日常生活中的使用“几乎无法控制”，反对建设数据中心的抗议活动日益频繁，甚至有人试图攻击AI公司的CEO。

正如奥拉的出现所暗示的，教皇的通谕将AI描述为一种可以产生积极应用的技术，其语气引发了褒贬不一的反应。“我很高兴它对AI公司持批评态度，但我认为它应该更严厉一些，”前OpenAI员工、非营利组织AI未来项目的AI研究员丹尼尔·科科塔伊洛告诉The Verge。相反，软件公司Optro的AI治理总经理古鲁·塞图帕西博士则对“教皇方济各和梵蒂冈并非反对AI，而是追求对人类最有利的责任道路”的迹象感到鼓舞。

与梵蒂冈合作的决定是Anthropic的战略举措，这家公司以其精心打造的信誉为基础，是比竞争对手更值得信赖的替代品。Anthropic最近几个月因与五角大楼在军事AI使用限制上的争议而闻名，与另一个强大机构的联系可能有助于提升其地位，并让它帮助塑造未来的梵蒂冈建议。

该文件在科技界的一个争议点在于它完全没有提及AGI或超级智能；它承认AI系统可能“在速度和计算能力上常常超越人类智能”，但指出它们“缺乏人类通过成长获得智慧所需的情感、关系和精神视角。”美国创新基金会高级研究员迪恩·W·鲍尔在X上写道，该通谕“如果少一些对传统学术界/公民社会关于AI的陈词滥调的迷恋，更多关注AI的发展方向，将会大为改善。但相反，通谕在深层次上回避了问题，否认AI‘真正思考’或‘真正学习’。”科科塔伊洛也表示希望该通谕更“认真地对待”AGI和超级智能的可能性。

但几位科技界和天主教界人士告诉The Verge，这份文件并非旨在涵盖一切。

“这是一份重要的天主教社会训导文件，”圣约瑟和平修女会助理修女长苏珊·弗朗索瓦修女说。“它关注的不是AI，而是在AI时代保护人的尊严。”未来生命研究所美国信仰联络人、圣母大学神学院天主教社会训导讲师布赖恩·博伊德称该文件“更像是一个战斗号召，而不是一套具体的行动指令。”教皇在通谕中呼吁“建立适当的监管工具，以维护正义并遏制技术力量的扭曲效应”，但他没有支持具体的提案。

科技监督项目的霍沃思表示，她认为该通谕“为世界，至少是西方世界设定了道德方向的指南针……你不必是天主教徒，也能在这份文件中看到自己的担忧和希望。”她期望当选领导人能够具体处理AGI问题，并尽到责任制衡强大的科技公司，而不是期望教皇的文件“包罗万象”。她还称其为“对领导人、政治家的警告，因为这份文件讨论的是亚阶级的创造。”

对一些人来说，通谕未关注AGI并不是问题，因为他们认为教皇关注的是AI对当前弱势社区的现实影响，而不是实验室达到AGI里程碑时人类可能面临的一些潜在风险。

Opaque Systems公司首席执行官亚伦·福尔克森表示，教皇“实际上是在审视系统，并强调我们科技界许多人会认为是人类系统性风险的问题。我甚至不是在谈论AGI。我谈论的是我们的全球经济。”

即使在当前AI浪潮之前，科技行业的集中化也可能是危险的。网络安全公司CrowdStrike的问题导致全球银行、医院和航空公司瘫痪，亚马逊网络服务的一次中断导致从Reddit到Venmo的大片互联网瘫痪。对福尔克森来说，随着权力集中在少数几个AI实验室手中，全球经济风险只会增加。

“我在新闻中看到的是围绕教皇与科技兄弟之间权力动态的定位，但我认为每个人都错过了更大的故事，即他正在审视一个本质上具有风险的系统，”福尔克森说。“我们正在梦游般进入一个世界，其中一两个实验室成为地球上每个行业的认知基础设施——这意味着人类远没有那么有韧性，而不是更有能力。”

在通谕中，教皇将AI比作巴别塔，他描述为“由消除多样性、选择同质化而非共融的统一性所支撑”的结构。他写道，世界必须“避免‘巴别塔综合征’：牺牲弱者的利润崇拜、中和差异的统一性，以及假装单一语言——即使是数字语言——能够将一切，包括人的奥秘，转化为数据和性能的妄念。”在他的思考中，AI不仅成为一种新技术，更成为一种圣经式的斗争。“非人化的风险，”他写道，“是一种古老且常新的诱惑，今天以技术伪装出现。”这些声明的分量，而非技术细节，很可能是其持久影响所在。