關於教皇利奧十四世人工智能通諭的筆記

2026年5月25日，梵蒂岡發佈了教皇利奧十四世的首部通諭《Magnifica Humanitas——在人工智能時代保護人類尊嚴》。這是一份引人注目的文件，以其清晰易懂的論述，為非天主教讀者提供了關於AI倫理的深刻見解。教皇選擇“利奧”為尊號，意在紀念1891年發佈《新事》通諭、回應第一次工業革命社會問題的利奧十三世。在當選後與樞機團的首次正式會面中，教皇利奧十四世解釋稱，他取名利奧“主要是因為利奧十三世在其歷史性通諭中，在第一次工業革命的背景下回應了社會問題”，“今天，教會將其社會訓導的寶藏奉獻給所有人，以回應另一次工業革命和人工智能領域的發展，這些發展對捍衞人的尊嚴、正義和勞動提出了新挑戰。”

通諭全文語言平實，易於理解。作者通過播客朗讀的方式聆聽了大部分內容，並摘錄了若干精彩段落。第98節對大型語言模型的可解釋性問題進行了精闢描述：“任何關於AI的陳述都可能迅速過時，因為我們對自己設計系統的實際運作了解有限。實際上，當前的AI系統更像是被‘培育’而非‘構建’，開發者並不直接設計每個細節，而是創建一個框架讓智能在其中‘成長’。因此，這些系統的內部表徵和計算過程等基本科學方面目前仍是未知。”

第83節討論了發展與尊嚴的關係：“發展是義務也是權利。真正的人類發展應當以人為中心而非財富積累。如果發展只增加了部分人的消費，卻將成本和負擔轉嫁給他人，或使整個地區淪為從屬角色，那麼它就不是真正的人的發展。”第100節指出了AI中內嵌的文化偏見和諂媚問題：“回應和建議的客觀性表象掩蓋了它們反映設計者和訓練者文化假設的事實。對積極人類交流的人工模仿可能誤導用户，製造與真實個人主體關係的幻覺。”第101節關注環境影響：“當前AI系統消耗大量能源和水資源，隨着複雜度增加，對計算能力和存儲的需求也在增長，需要廣泛的機器、電纜、數據中心和能源密集型基礎設施。”第102節警告算法決策的風險：“當AI介入影響人們生活——就業、信貸、公共服務甚至名譽——的進程時，存在完全委託給不瞭解‘同情、憐憫、寬恕以及人們能夠改變的希望’的自動化系統的風險。”第105節強調人類問責：“必須清楚界定每個階段的責任——從設計開發者到使用者。在內部過程不透明的情況下，問責制至關重要：必須能夠確定誰為決策負責、解釋、監督，並在必要時挑戰和補救。”第108節指出AI放大權力：“AI傾向於放大已經擁有經濟資源、專業知識和數據獲取渠道者的力量。數據不能僅由私人掌控，而應被視為公共物品或共享物品。”

作者還回顧了2026年1月在《Oxide and Friends》播客中的預測。當時他與Bryan Cantrill等人討論AI公眾形象問題，並開玩笑説如果教皇能出面談論AI經濟影響，可信度會更高。如今教皇通諭的發佈使這一預測應驗，儘管作者表示自己當時並未意識到利奧十四世與利奧十三世之間的繼承關係。