教宗領悟人工智能的侷限性

在上帝用大洪水淨化世界之後，人們聚集在巴比倫，開始製作磚塊——當時的一項新技術。那時人類語言相通，他們用磚建造了一座象徵無限野心的塔。於是上帝變亂了語言，從而阻止任何可能覬覦神權與榮耀的新技術誕生。

上帝或許延緩了這類技術，但並未完全阻止它們。梵蒂岡最近發佈的250頁通諭《偉大的人性》被譽為首份正式應對人工智能的天主教官方文件。但這封信由教宗良十四世簽署，其核心目的並非單純討論AI危害：一是捍衞那些對人類共同本性與存在感到厭倦的人，二是警示社會將人類能力外包給計算機的誘惑。不僅頌揚人類的偉大，更強調人類的不完美，這是一個激進的轉變。教宗洞察到，我們的許多美麗源於限制而非無限，這是對AI時代的重要干預。

《偉大的人性》並非一份盧德主義文件。它沿襲了基督教對炫目技術背後危險風險的批判傳統。例如，工業革命雖大幅提高生產力，卻也催生了少數資本家牟利的新型剝削，促使威廉·布萊克在1804年詩作《耶路撒冷》中質疑上帝之光是否曾在“那些黑暗的撒旦磨坊”中照耀。

AI引發了類似問題。教宗最令人驚訝的論點之一是堅持認為人類本質上是善的——不是因為我們是機器，恰恰是因為那些使我們不同於機器的事物。“有限性，當被真正接受時，並不會貶低我們，而是讓我們開放地認識上帝和他人的面容，”他寫道，“確實，正因為我們經歷限制——脆弱、痛苦和失敗——我們才能認識到每個人不可侵犯的尊嚴，包括我們自己和他人的尊嚴。”他擔憂人們願意讓機器取代人類的理性、創造力、同情和關懷能力。

這一擔憂出現在人類善良、判斷力和獨創性的信仰遭受攻擊的時刻。硅谷一些最響亮的聲音對人類是否還有價值存在矛盾。去年，億萬富翁風險投資家彼得·蒂爾在《紐約時報》採訪中猶豫是否回答人類是否應該生存的問題。他和科技投資者階層的其他成員反而建議，如果我們更多地將不完美的決策（包括道德決策）外包給超智能AI，人類會過得更好。

他們的觀點傾向於將人類侷限視為負債，卻忽略了正是人類的不完美激發了同情與反思，並賦予偉大藝術以美感。AI創造的文學枯燥而缺乏真正的悽美。（例如，聊天機器人可以模仿陀思妥耶夫斯基的散文風格，但無法像他那樣看到罪惡如何凸顯善良的令人心碎的對比。）完美是非人性的，對其的追求既註定失敗又源於誤解。

這種對完美的追求部分導致了AI的危險。教宗指出，AI的創造者和使用者已經在讓該技術做出道德決定——例如使用算法決定僱傭誰、是否資助手術或瞄準炸彈。這削弱了人們自行思考這些問題的能力，更令人擔憂的是，它將廣泛影響這些選擇的能力交到了訓練和控制AI技術的人手中。這意味着科技巨頭的道德哲學將隨着這些技術在社會中獲得更廣泛的應用，逐步引導越來越多人的道德決策。

教宗並未發佈命令廢除AI，也未對其善惡做出明確裁決。事實上，該文件並不認為AI特別特殊，儘管其特定風險新穎且嚴重。相反，教宗將AI定位為從巴別塔開始的一系列技術中的一環，這些技術以人類獨特性為代價承諾權力與榮耀。同質化、效率和生產並非人生的意義：我們的使命不是像計算機一樣運作，而是去做計算機無法做到的事——那就是去愛。