教宗领悟人工智能的局限性

在上帝用大洪水净化世界之后，人们聚集在巴比伦，开始制作砖块——当时的一项新技术。那时人类语言相通，他们用砖建造了一座象征无限野心的塔。于是上帝变乱了语言，从而阻止任何可能觊觎神权与荣耀的新技术诞生。

上帝或许延缓了这类技术，但并未完全阻止它们。梵蒂冈最近发布的250页通谕《伟大的人性》被誉为首份正式应对人工智能的天主教官方文件。但这封信由教宗良十四世签署，其核心目的并非单纯讨论AI危害：一是捍卫那些对人类共同本性与存在感到厌倦的人，二是警示社会将人类能力外包给计算机的诱惑。不仅颂扬人类的伟大，更强调人类的不完美，这是一个激进的转变。教宗洞察到，我们的许多美丽源于限制而非无限，这是对AI时代的重要干预。

《伟大的人性》并非一份卢德主义文件。它沿袭了基督教对炫目技术背后危险风险的批判传统。例如，工业革命虽大幅提高生产力，却也催生了少数资本家牟利的新型剥削，促使威廉·布莱克在1804年诗作《耶路撒冷》中质疑上帝之光是否曾在“那些黑暗的撒旦磨坊”中照耀。

AI引发了类似问题。教宗最令人惊讶的论点之一是坚持认为人类本质上是善的——不是因为我们是机器，恰恰是因为那些使我们不同于机器的事物。“有限性，当被真正接受时，并不会贬低我们，而是让我们开放地认识上帝和他人的面容，”他写道，“确实，正因为我们经历限制——脆弱、痛苦和失败——我们才能认识到每个人不可侵犯的尊严，包括我们自己和他人的尊严。”他担忧人们愿意让机器取代人类的理性、创造力、同情和关怀能力。

这一担忧出现在人类善良、判断力和独创性的信仰遭受攻击的时刻。硅谷一些最响亮的声音对人类是否还有价值存在矛盾。去年，亿万富翁风险投资家彼得·蒂尔在《纽约时报》采访中犹豫是否回答人类是否应该生存的问题。他和科技投资者阶层的其他成员反而建议，如果我们更多地将不完美的决策（包括道德决策）外包给超智能AI，人类会过得更好。

他们的观点倾向于将人类局限视为负债，却忽略了正是人类的不完美激发了同情与反思，并赋予伟大艺术以美感。AI创造的文学枯燥而缺乏真正的凄美。（例如，聊天机器人可以模仿陀思妥耶夫斯基的散文风格，但无法像他那样看到罪恶如何凸显善良的令人心碎的对比。）完美是非人性的，对其的追求既注定失败又源于误解。

这种对完美的追求部分导致了AI的危险。教宗指出，AI的创造者和使用者已经在让该技术做出道德决定——例如使用算法决定雇佣谁、是否资助手术或瞄准炸弹。这削弱了人们自行思考这些问题的能力，更令人担忧的是，它将广泛影响这些选择的能力交到了训练和控制AI技术的人手中。这意味着科技巨头的道德哲学将随着这些技术在社会中获得更广泛的应用，逐步引导越来越多人的道德决策。

教宗并未发布命令废除AI，也未对其善恶做出明确裁决。事实上，该文件并不认为AI特别特殊，尽管其特定风险新颖且严重。相反，教宗将AI定位为从巴别塔开始的一系列技术中的一环，这些技术以人类独特性为代价承诺权力与荣耀。同质化、效率和生产并非人生的意义：我们的使命不是像计算机一样运作，而是去做计算机无法做到的事——那就是去爱。