关于教皇利奥十四世人工智能通谕的笔记

2026年5月25日，梵蒂冈发布了教皇利奥十四世的首部通谕《Magnifica Humanitas——在人工智能时代保护人类尊严》。这是一份引人注目的文件，以其清晰易懂的论述，为非天主教读者提供了关于AI伦理的深刻见解。教皇选择“利奥”为尊号，意在纪念1891年发布《新事》通谕、回应第一次工业革命社会问题的利奥十三世。在当选后与枢机团的首次正式会面中，教皇利奥十四世解释称，他取名利奥“主要是因为利奥十三世在其历史性通谕中，在第一次工业革命的背景下回应了社会问题”，“今天，教会将其社会训导的宝藏奉献给所有人，以回应另一次工业革命和人工智能领域的发展，这些发展对捍卫人的尊严、正义和劳动提出了新挑战。”

通谕全文语言平实，易于理解。作者通过播客朗读的方式聆听了大部分内容，并摘录了若干精彩段落。第98节对大型语言模型的可解释性问题进行了精辟描述：“任何关于AI的陈述都可能迅速过时，因为我们对自己设计系统的实际运作了解有限。实际上，当前的AI系统更像是被‘培育’而非‘构建’，开发者并不直接设计每个细节，而是创建一个框架让智能在其中‘成长’。因此，这些系统的内部表征和计算过程等基本科学方面目前仍是未知。”

第83节讨论了发展与尊严的关系：“发展是义务也是权利。真正的人类发展应当以人为中心而非财富积累。如果发展只增加了部分人的消费，却将成本和负担转嫁给他人，或使整个地区沦为从属角色，那么它就不是真正的人的发展。”第100节指出了AI中内嵌的文化偏见和谄媚问题：“回应和建议的客观性表象掩盖了它们反映设计者和训练者文化假设的事实。对积极人类交流的人工模仿可能误导用户，制造与真实个人主体关系的幻觉。”第101节关注环境影响：“当前AI系统消耗大量能源和水资源，随着复杂度增加，对计算能力和存储的需求也在增长，需要广泛的机器、电缆、数据中心和能源密集型基础设施。”第102节警告算法决策的风险：“当AI介入影响人们生活——就业、信贷、公共服务甚至名誉——的进程时，存在完全委托给不了解‘同情、怜悯、宽恕以及人们能够改变的希望’的自动化系统的风险。”第105节强调人类问责：“必须清楚界定每个阶段的责任——从设计开发者到使用者。在内部过程不透明的情况下，问责制至关重要：必须能够确定谁为决策负责、解释、监督，并在必要时挑战和补救。”第108节指出AI放大权力：“AI倾向于放大已经拥有经济资源、专业知识和数据获取渠道者的力量。数据不能仅由私人掌控，而应被视为公共物品或共享物品。”

作者还回顾了2026年1月在《Oxide and Friends》播客中的预测。当时他与Bryan Cantrill等人讨论AI公众形象问题，并开玩笑说如果教皇能出面谈论AI经济影响，可信度会更高。如今教皇通谕的发布使这一预测应验，尽管作者表示自己当时并未意识到利奥十四世与利奥十三世之间的继承关系。