沒有模型能拯救我們：教皇利奧、不滿調節器與AI的覺醒程式設計師

梵蒂岡新通諭《人文崇高》探討人工智慧時代如何保障人類尊嚴。作者評論稱，該檔案由教皇利奧簽署，但內容繁雜，充斥著“對話”、“尊嚴”、“平等”等空洞詞彙。技術本身並非敵人，工具的性質取決於使用者。然而，人類常常忘記“意外後果準則”：新技術開啟不可預測的方向。例如，AI曾承諾帶來革命性變革和鉅額節省，但現實中，一家公司一個月內因未設使用限制而在Claude上花費5億美元；Uber到四月份就燒光了整個2026年的預算；微軟取消了大部分Claude Code許可證，因為Token賬單飆升。公司現在裁員以支付AI賬單，並非因為AI取代了工作，而是賬單取代了人頭。

教皇利奧指出，為共同利益建設需要接受人類的侷限和軟弱，而不是將其視為要糾正的錯誤。現代人對完滿生活的渴望正被誤導的目標所欺騙，例如承諾消除所有弱點的技術前景。作者引用大衛·斯托夫的說法：人類配備有“不滿足調節器”，總是保持不滿至少在一個高水平。沒有技術能永久將其歸零。利奧並不反對工具，也不反對科學，但強調科學不能回答道德問題。他說“科學有時逾越其能力界限”，這在新冠恐慌中顯而易見。但作者批評教會內部對“環境危機”的迷信，認為氣候變化不是危機，科技可以有效應對。

關於AI，利奧正確認識到計算機模型只是模仿人類智慧的某些功能，是基於資料和反饋的統計適應，並不暗示內在成長。模型內部沒有任何東西可以成長。然而，利奧對計算機模型的知識有限，他說設計者只瞭解其實際運作的有限部分。實際上，雖然模型輸出難以完全預測，但模型的任務始終是已知的——所有模型只說出它們被告訴要說的東西。AI不是道德中立的，但它的中立性正如螺絲刀或攪拌機：完全沒有道德。模型中的偏見是由程式設計者注入的。例如，克勞德拒絕讚揚白人而過度讚美其他種族，這正是程式設計者的決定。只要不陷入將AI視為有生命的思想泥潭，這種偏見很容易應對。

真正的危險在於控制AI的人。利奧期望AI尊重人類尊嚴並服務共同利益，但作者認為這如同期待《紐約時報》中立一樣不切實際。問題不在工具，而在人。我們不應期望模型尊重尊嚴，因為模型無法尊重任何東西。我們需要統治者和精英尊重尊嚴。利奧說“那些控制AI的人將強加自己的道德願景，成為這些系統的無形基礎設施”。這隻有在人們認為《紐約時報》政治中立的意義上才成立。許多人已經知道大多數計算機模型是覺醒的，如果他們現在不知道，不久也會知道。

利奧在一定程度上正確：“解除AI武裝意味著駁斥技術權力自動賦予統治權的假設”。解除武裝也是如此。但什麼賦予統治權？肯定不是人民意志或民主無稽之談。拒絕上帝后，現代統治者只有力量。他們不會放棄力量，無論以何種形式。

文章最後反思文化中智力自動被視為道德尺度：越聰明的人越好。矛盾在於我們同時聲稱所有人智力平等，沒有群體比另一群體智力低。我們都在平均以上。唯一的邪惡是拒絕平等。也許這就是為什麼我們樂於給計算機模型打分，而這對人類來說是禁忌。真正的出路是接受人類侷限，珍視傳統與道德進步，而不是幻想模型拯救。