教皇是否使用AI撰寫了關於AI危險的通諭？
分析顯示，教皇利奧十四世關於人工智能的通諭《人間偉大》中部分段落可能由AI生成。AI檢測工具Pangram指出，某些段落AI寫作比例高達40%至100%，並存在AI生成文本的典型特徵，如“genuinely”一詞使用頻率增加。然而，檢測並非絕對可靠，其他部分被認定為人類寫作。
文章情報
要點
- 分析發現教皇通諭中部分段落AI寫作比例高達40%-100%。
- AI檢測工具Pangram識別出AI寫作常見特徵，如“genuinely”一詞使用增多。
- 通諭其他部分被認定為人類寫作，AI檢測存在誤報風險。
- 這是首部聚焦AI影響的教皇通諭，由教皇與Anthropic聯合創始人共同發佈。
為甚麼重要
這條新聞值得關注，因為分析發現教皇通諭中部分段落AI寫作比例高達40%-100%。
技術影響
可能影響模型選型、推理成本、產品能力和評測基準。
根據一項由林奇·張（Linch Zhang）在LessWrong論壇上發佈的分析，教皇利奧十四世最新關於人工智能對人類影響的通諭《人間偉大》（Magnifica Humanitas）中，部分段落可能由AI生成。該分析使用了廣受尊敬的AI檢測工具Pangram，結果顯示某些段落的AI寫作比例介於40%至100%之間。張指出，文本中出現了AI生成內容的典型特徵，例如“genuinely”一詞的使用頻率明顯高於以往的教皇通諭，而這個詞正是Anthropic公司開發的AI模型Claude所偏好的用語。此外，另一名用户將通諭文本逐節輸入Pangram，發現第一章有62%的內容被標記為AI生成。The Verge網站對大約2000字的通諭內容進行檢測後，估計其中46%為AI所寫。
然而，並非通諭全部內容都被視為AI生成。張注意到，Pangram將某些段落標記為“基本0% AI”。例如，過去四份通諭的最後20段經Pangram檢測，均以100%的信心認定為人類寫作。教皇利奧的一次演講轉錄文本同樣被評定為100%人類寫作。這表明通諭中的人類寫作部分依然存在。
AI檢測並非絕對可靠。不同的檢測工具可能得出不同結論，即使結果一致也無法保證絕對正確。但Pangram在AI研究界享有較高聲譽。2025年3月，Pangram聲稱其將人類寫作誤判為AI生成的錯誤率“估計約為萬分之一”。
通諭是教皇發佈的正式文件，旨在闡述對當代重大道德和社會挑戰的教義。據《紐約時報》報道，這份通諭是教皇利奧發佈的第一份通諭，上一份通諭由前任教皇方濟各於2024年10月發佈。值得注意的是，這份通諭是首份專門聚焦人工智能及其廣泛影響的教皇文件，而且教皇利奧是與Anthropic公司的聯合創始人克里斯托弗·奧拉（Christopher Olah）共同發佈的。這一舉動引發了外界對教皇與AI領域專家合作的高度關注。
截至報道發佈時，梵蒂岡方面尚未對置評請求作出回應。這一事件也引發了關於AI在宗教文本寫作中應用的更廣泛討論。