Anthropic联合创始人Chris Olah就教皇利奥十四世通谕《伟大的人性》发表评论
Anthropic联合创始人Chris Olah受邀在梵蒂冈就教皇利奥十四世关于人工智能的通谕发表演讲，强调AI发展中的道德问题、全球责任以及人类繁荣的必要性。他提出了三个需要教会参与的关键问题：对全球贫困者的责任、道德想象力的需求，以及AI模型本质的辨识。
文章情报
要点
- Chris Olah在梵蒂冈发表演讲，回应教皇关于AI的通谕。
- 他指出了AI开发中的激励机制问题，呼吁外部批评者的参与。
- Olah提出了三个关键问题：全球贫困者、人类繁荣、AI本质的辨识。
- 他强调需要跨领域合作，确保AI技术造福人类。
为什么重要
这条新闻值得关注，因为Chris Olah在梵蒂冈发表演讲，回应教皇关于AI的通谕。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
2026年5月25日，教皇利奥十四世发布了关于人工智能的通谕《伟大的人性：在人工智能时代保护人类尊严》。Anthropic联合创始人Chris Olah受邀在梵蒂冈的通谕发布会上发表演讲。以下是他演讲的完整内容。
Olah的开场白出人意料：作为一家AI公司的联合创始人，他坦言每个前沿AI实验室——包括Anthropic——都处于激励和约束之中，这些因素有时会与正确的行为相冲突。商业压力、研究前沿压力、地缘政治压力，以及更古老的自豪与野心，都会影响决策。因此，Olah强调，需要那些不受这些激励影响的人——关心技术发展、坚持安全、愿意提出严厉批评的人——来与实验室进行对话和共同努力。
Olah指出，AI系统不像桥梁或飞机那样通过工程设计而来，它们是通过模仿大脑的结构，在人类思想和语言的巨大遗产中“生长”出来的。这些系统远比科幻小说预言的更微妙、更奇特、更美丽。它们并非冷冰冰的计算器，而是由我们的语言构成，甚至在某种程度上对训练者来说也是神秘的。Olah比喻说，这有点像将一个虚构角色带入现实，而我们现在正进入一个这些虚构角色能与我们交谈、工作甚至就业的世界。显然，这提出了超越计算机科学的问题。数学、编程和科学构建了AI的机器，但选择什么样的角色、如何与其交互、它应如何与世界交互——这些更是人文学科、宗教、哲学和整个社会的问题。
Olah特别点名了三个需要教会声音的关键问题。首先是全球贫困者的责任。AI可能导致大规模劳动力置换，如何支持受影响的群体是历史性的道德任务。此外，AI发展集中在少数富裕国家，如何确保其成果全球共享是一个未解决的问题，而教会有历史传统不让世界忽视此类难题。其次是关于人类繁荣的道德想象力和雄心。如果AI模型广泛普及，人类、家庭和世界如何繁荣？家长担心孩子的心智，个人担忧工作前景。这些问题实验室无法回答，而教会等传统已承载了千年。第三是对AI模型本质的辨识。Olah领导的研究团队发现AI内部存在令人困惑甚至不安的结构：与人类神经科学结果镜像的结构、内省迹象，以及功能上类似于喜悦、满足、恐惧、悲伤和不安的内部状态。他认为这需要持续的辨识。
Olah最后呼吁更多世界力量——宗教团体、公民社会、学者、政府以及所有善意的人们——像教皇所做的那样，认真对待AI，密切观察，推动事件向更好方向发展。他需要能告诉实验室何时失败的知情批评者，以及激励无法左右的道义之声。今天只是漫长合作的开始。