没有模型能拯救我们：教皇利奥、不满调节器与AI的觉醒程序员

梵蒂冈新通谕《人文崇高》探讨人工智能时代如何保障人类尊严。作者评论称，该文件由教皇利奥签署，但内容繁杂，充斥着“对话”、“尊严”、“平等”等空洞词汇。技术本身并非敌人，工具的性质取决于使用者。然而，人类常常忘记“意外后果准则”：新技术开启不可预测的方向。例如，AI曾承诺带来革命性变革和巨额节省，但现实中，一家公司一个月内因未设使用限制而在Claude上花费5亿美元；Uber到四月份就烧光了整个2026年的预算；微软取消了大部分Claude Code许可证，因为Token账单飙升。公司现在裁员以支付AI账单，并非因为AI取代了工作，而是账单取代了人头。

教皇利奥指出，为共同利益建设需要接受人类的局限和软弱，而不是将其视为要纠正的错误。现代人对完满生活的渴望正被误导的目标所欺骗，例如承诺消除所有弱点的技术前景。作者引用大卫·斯托夫的说法：人类配备有“不满足调节器”，总是保持不满至少在一个高水平。没有技术能永久将其归零。利奥并不反对工具，也不反对科学，但强调科学不能回答道德问题。他说“科学有时逾越其能力界限”，这在新冠恐慌中显而易见。但作者批评教会内部对“环境危机”的迷信，认为气候变化不是危机，科技可以有效应对。

关于AI，利奥正确认识到计算机模型只是模仿人类智能的某些功能，是基于数据和反馈的统计适应，并不暗示内在成长。模型内部没有任何东西可以成长。然而，利奥对计算机模型的知识有限，他说设计者只了解其实际运作的有限部分。实际上，虽然模型输出难以完全预测，但模型的任务始终是已知的——所有模型只说出它们被告诉要说的东西。AI不是道德中立的，但它的中立性正如螺丝刀或搅拌机：完全没有道德。模型中的偏见是由编程者注入的。例如，克劳德拒绝赞扬白人而过度赞美其他种族，这正是编程者的决定。只要不陷入将AI视为有生命的思想泥潭，这种偏见很容易应对。

真正的危险在于控制AI的人。利奥期望AI尊重人类尊严并服务共同利益，但作者认为这如同期待《纽约时报》中立一样不切实际。问题不在工具，而在人。我们不应期望模型尊重尊严，因为模型无法尊重任何东西。我们需要统治者和精英尊重尊严。利奥说“那些控制AI的人将强加自己的道德愿景，成为这些系统的无形基础设施”。这只有在人们认为《纽约时报》政治中立的意义上才成立。许多人已经知道大多数计算机模型是觉醒的，如果他们现在不知道，不久也会知道。

利奥在一定程度上正确：“解除AI武装意味着驳斥技术权力自动赋予统治权的假设”。解除武装也是如此。但什么赋予统治权？肯定不是人民意志或民主无稽之谈。拒绝上帝后，现代统治者只有力量。他们不会放弃力量，无论以何种形式。

文章最后反思文化中智力自动被视为道德尺度：越聪明的人越好。矛盾在于我们同时声称所有人智力平等，没有群体比另一群体智力低。我们都在平均以上。唯一的邪恶是拒绝平等。也许这就是为什么我们乐于给计算机模型打分，而这对人类来说是禁忌。真正的出路是接受人类局限，珍视传统与道德进步，而不是幻想模型拯救。