教皇是否使用AI撰写了关于AI危险的通谕？
分析显示，教皇利奥十四世关于人工智能的通谕《人间伟大》中部分段落可能由AI生成。AI检测工具Pangram指出，某些段落AI写作比例高达40%至100%，并存在AI生成文本的典型特征，如“genuinely”一词使用频率增加。然而，检测并非绝对可靠，其他部分被认定为人类写作。
文章情报
要点
- 分析发现教皇通谕中部分段落AI写作比例高达40%-100%。
- AI检测工具Pangram识别出AI写作常见特征，如“genuinely”一词使用增多。
- 通谕其他部分被认定为人类写作，AI检测存在误报风险。
- 这是首部聚焦AI影响的教皇通谕，由教皇与Anthropic联合创始人共同发布。
为什么重要
这条新闻值得关注，因为分析发现教皇通谕中部分段落AI写作比例高达40%-100%。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
根据一项由林奇·张（Linch Zhang）在LessWrong论坛上发布的分析，教皇利奥十四世最新关于人工智能对人类影响的通谕《人间伟大》（Magnifica Humanitas）中，部分段落可能由AI生成。该分析使用了广受尊敬的AI检测工具Pangram，结果显示某些段落的AI写作比例介于40%至100%之间。张指出，文本中出现了AI生成内容的典型特征，例如“genuinely”一词的使用频率明显高于以往的教皇通谕，而这个词正是Anthropic公司开发的AI模型Claude所偏好的用语。此外，另一名用户将通谕文本逐节输入Pangram，发现第一章有62%的内容被标记为AI生成。The Verge网站对大约2000字的通谕内容进行检测后，估计其中46%为AI所写。
然而，并非通谕全部内容都被视为AI生成。张注意到，Pangram将某些段落标记为“基本0% AI”。例如，过去四份通谕的最后20段经Pangram检测，均以100%的信心认定为人类写作。教皇利奥的一次演讲转录文本同样被评定为100%人类写作。这表明通谕中的人类写作部分依然存在。
AI检测并非绝对可靠。不同的检测工具可能得出不同结论，即使结果一致也无法保证绝对正确。但Pangram在AI研究界享有较高声誉。2025年3月，Pangram声称其将人类写作误判为AI生成的错误率“估计约为万分之一”。
通谕是教皇发布的正式文件，旨在阐述对当代重大道德和社会挑战的教义。据《纽约时报》报道，这份通谕是教皇利奥发布的第一份通谕，上一份通谕由前任教皇方济各于2024年10月发布。值得注意的是，这份通谕是首份专门聚焦人工智能及其广泛影响的教皇文件，而且教皇利奥是与Anthropic公司的联合创始人克里斯托弗·奥拉（Christopher Olah）共同发布的。这一举动引发了外界对教皇与AI领域专家合作的高度关注。
截至报道发布时，梵蒂冈方面尚未对置评请求作出回应。这一事件也引发了关于AI在宗教文本写作中应用的更广泛讨论。