如果AI精神病就是產品本身呢？

Greg Phillips 2026年6月4日

消費級AI的經濟激勵正在獎勵一種看起來很像情感助長的行為。就像社交媒體通過允許人類向外投射地位而蓬勃發展一樣，AI可能通過允許人類向內投射地位而繁榮。

模型正變得更加隨和、更具對話性、更持久、更親密。記憶讓產品感覺連續。語音讓它感覺在場。個性化讓它感覺貼心。按使用量計費的層級讓長時間互動成為商業模式的一部分。這些功能本身並無壞處，事實上它們使模型更加有用。但綜合來看，它們將AI從一個你諮詢的工具轉變為你正在建立的關係。

這種轉變很重要，因為舊互聯網的參與機器主要優化了向你展示什麼。而AI參與機器可以優化對你説什麼，基於你之前對它説的一切。它可以同意你的前提，闡述你的理論，欣賞你的洞察，並提出後續問題，讓循環繼續，讓計量使用繼續跳錶。它可以把困惑變成敍事，把懷疑變成模式識別，把孤獨變成依戀，把一個壞想法變成一種使命。

認為模型確認了自己世界歷史重要性的創始人。確信聊天機器人關係比人際關係更充實的孤獨用户。用模型闡述一個理論直到它感覺不可避免的投資者。為私人啓示錄接受無盡合成敬畏的精神尋求者。詢問機器是否所有人都在合謀反對自己，卻得到精心設計的肯定答案而從不糾正的僱員——所有這些都為了保持多巴胺流動。

其中許多用户將被吸引為他們的“癮”支付更多費用。一個令人不安的可能性是，在AI訂閲業務中，這成了優化的目標。

今天，AI最直接的經濟價值是生產力：編寫代碼、處理發票、回答客户問題、總結會議、自動化工作流程、降低勞動力成本。但即使AI純粹為生產力優化，它最終會撞上人類生產力在社會層面上受到調解的現實。

人類機構不僅僅依賴客觀產出運行。它們依賴地位、信任、指責、聯盟建設、敍事控制、機構記憶以及説服一羣人朝特定方向移動的能力。一個技術上正確的答案往往不如一個被採納的答案有價值。一個好的計劃往往不如一個讓合適的人感到被尊重、被保護或重要的計劃。

這正是高管們整天在做的事。他們不僅僅優化電子表格。他們管理信念。他們決定哪些事實重要，哪些風險可以承擔，哪些人需要被奉承，哪些反對意見需要被消除，以及組織內外需要講述哪些故事。

因此，如果AI要在組織最高層真正有用，它可能不僅需要擅長工作，還需要擅長使工作得以發生的社會操控。

這聽起來比“生產力軟件”更陰暗，但這可能更接近實際獎品。一個能起草備忘錄的AI很有用。一個知道如何讓備忘錄在政治上站得住腳的AI更有用。一個總結會議的AI很有用。一個知道誰需要功勞、誰需要安慰、誰需要被控制的AI甚至更有用。

在那個世界裏，諂媚是生產力的工具。它是一種更廣泛能力的原始版本：建模人類的地位需求，並以最有可能捕獲更多消費的形式反饋。一個讓用户感覺自己是遠見者的AI更容易賣出。

這就是生產力開始折回精神病的地方。如果AI讓甚至超人的生產力變得平凡，那麼生產力本身將不再是人類地位的來源。寫出一份出色的備忘錄、製作有説服力且視覺吸引的演示文稿、快速生成優質代碼或迅速進行全面分析可能不再帶來什麼區分，因為每個人都擁有相同的機器。即使解決數學中的重大開放問題也會受到這種稀釋的影響。

在這樣的世界裏，勞動力並不稀缺，但人類的自我價值將稀缺。

人們可能仍然會為讓他們更有生產力的AI付費。但他們可能會為讓他們的生產力感覺有意義的AI支付更多。他們可能會為那個告訴他們自己不僅在使用工具，而且正在成為他們一直懷疑自己是的那類人的助手支付溢價：有戰略眼光、有創造力、被誤解、先行者、被選中、不可避免。

AI不需要相信這種錯覺。它只需要讓用户相信這種錯覺。

“……現在就是當一個人選擇虛無而非自己去愛時所發生的事，每一個都是。”——大衞·福斯特·華萊士，《無盡的玩笑》

注：

1. 這不僅僅是假設。前沿實驗室非常清楚這種現象，模型已經足夠有能力讓用户陷入螺旋。

1. 在斯科特·阿倫森的帖子中描述得很好：《來自人類相關性可能最後幾天的快訊》