教皇並未沉迷於AGI

週一，教皇方濟各發布了一封通諭，探討人工智慧的社會影響。這封名為《偉大的人類》的通諭警告說：“使用人工智慧從來不是純粹的技術問題：當它進入影響人們生活的過程時，它就觸及了權利、機會、地位和自由。”與他一同出席的還有Anthropic聯合創始人兼可解釋性團隊負責人克里斯托弗·奧拉，這代表了天主教會與AI領域主要參與者之間的合作。

該通諭在科技行業內外引發了廣泛反應。幾乎所有人都認為這份檔案將具有影響力。一些批評者質疑其是否足夠深入，另一些人則認為它本應討論人工通用智慧（AGI），而許多公司堅稱AGI即將到來。還有一些人認為教皇的觀點恰到好處。

“這顯然是對那些公然宣稱要裁減員工、用AI取代‘低價值人力資本’，並試圖透過政治影響力制定有利於自己規則的大型科技公司CEO們的影射，”科技監督專案執行主任薩沙·霍沃思表示。

教皇的通諭釋出之際，正值AI影響力日益增長引發反彈。六成美國成年人認為他們對AI在日常生活中的使用“幾乎無法控制”，反對建設資料中心的抗議活動日益頻繁，甚至有人試圖攻擊AI公司的CEO。

正如奧拉的出現所暗示的，教皇的通諭將AI描述為一種可以產生積極應用的技術，其語氣引發了褒貶不一的反應。“我很高興它對AI公司持批評態度，但我認為它應該更嚴厲一些，”前OpenAI員工、非營利組織AI未來專案的AI研究員丹尼爾·科科塔伊洛告訴The Verge。相反，軟體公司Optro的AI治理總經理古魯·塞圖帕西博士則對“教皇方濟各和梵蒂岡並非反對AI，而是追求對人類最有利的責任道路”的跡象感到鼓舞。

與梵蒂岡合作的決定是Anthropic的戰略舉措，這家公司以其精心打造的信譽為基礎，是比競爭對手更值得信賴的替代品。Anthropic最近幾個月因與五角大樓在軍事AI使用限制上的爭議而聞名，與另一個強大機構的聯絡可能有助於提升其地位，並讓它幫助塑造未來的梵蒂岡建議。

該檔案在科技界的一個爭議點在於它完全沒有提及AGI或超級智慧；它承認AI系統可能“在速度和計算能力上常常超越人類智慧”，但指出它們“缺乏人類透過成長獲得智慧所需的情感、關係和精神視角。”美國創新基金會高階研究員迪恩·W·鮑爾在X上寫道，該通諭“如果少一些對傳統學術界/公民社會關於AI的陳詞濫調的迷戀，更多關注AI的發展方向，將會大為改善。但相反，通諭在深層次上回避了問題，否認AI‘真正思考’或‘真正學習’。”科科塔伊洛也表示希望該通諭更“認真地對待”AGI和超級智慧的可能性。

但幾位科技界和天主教界人士告訴The Verge，這份檔案並非旨在涵蓋一切。

“這是一份重要的天主教社會訓導檔案，”聖約瑟和平修女會助理修女長蘇珊·弗朗索瓦修女說。“它關注的不是AI，而是在AI時代保護人的尊嚴。”未來生命研究所美國信仰聯絡人、聖母大學神學院天主教社會訓導講師布賴恩·博伊德稱該檔案“更像是一個戰鬥號召，而不是一套具體的行動指令。”教皇在通諭中呼籲“建立適當的監管工具，以維護正義並遏制技術力量的扭曲效應”，但他沒有支援具體的提案。

科技監督專案的霍沃思表示，她認為該通諭“為世界，至少是西方世界設定了道德方向的指南針……你不必是天主教徒，也能在這份檔案中看到自己的擔憂和希望。”她期望當選領導人能夠具體處理AGI問題，並盡到責任制衡強大的科技公司，而不是期望教皇的檔案“包羅永珍”。她還稱其為“對領導人、政治家的警告，因為這份檔案討論的是亞階級的創造。”

對一些人來說，通諭未關注AGI並不是問題，因為他們認為教皇關注的是AI對當前弱勢社群的現實影響，而不是實驗室達到AGI里程碑時人類可能面臨的一些潛在風險。

Opaque Systems公司執行長亞倫·福爾克森表示，教皇“實際上是在審視系統，並強調我們科技界許多人會認為是人類系統性風險的問題。我甚至不是在談論AGI。我談論的是我們的全球經濟。”

即使在當前AI浪潮之前，科技行業的集中化也可能是危險的。網路安全公司CrowdStrike的問題導致全球銀行、醫院和航空公司癱瘓，亞馬遜網路服務的一次中斷導致從Reddit到Venmo的大片網際網路癱瘓。對福爾克森來說，隨著權力集中在少數幾個AI實驗室手中，全球經濟風險只會增加。

“我在新聞中看到的是圍繞教皇與科技兄弟之間權力動態的定位，但我認為每個人都錯過了更大的故事，即他正在審視一個本質上具有風險的系統，”福爾克森說。“我們正在夢遊般進入一個世界，其中一兩個實驗室成為地球上每個行業的認知基礎設施——這意味著人類遠沒有那麼有韌性，而不是更有能力。”

在通諭中，教皇將AI比作巴別塔，他描述為“由消除多樣性、選擇同質化而非共融的統一性所支撐”的結構。他寫道，世界必須“避免‘巴別塔綜合徵’：犧牲弱者的利潤崇拜、中和差異的統一性，以及假裝單一語言——即使是數字語言——能夠將一切，包括人的奧秘，轉化為資料和效能的妄念。”在他的思考中，AI不僅成為一種新技術，更成為一種聖經式的鬥爭。“非人化的風險，”他寫道，“是一種古老且常新的誘惑，今天以技術偽裝出現。”這些宣告的分量，而非技術細節，很可能是其持久影響所在。