人工智慧的瓶頸從來不是智慧

過去兩年，整個行業圍繞一個問題組織起來：哪個模型最聰明。基準測試、排行榜、引數數量，每週都在爭奪最高分。這是一場引人入勝的競賽，但它即將不再提供任何有用的資訊，因為智慧正在成為廉價的輸入。真正稀缺、決定勝負的輸入，是信任。

這個說法聽起來有些軟性，但它是系統中最為具體的東西。

看看當一個職業的智慧不再稀缺時會發生什麼。以會計為例。在很短的時間內，任何規模的會計師事務所都將擁有能幹的AI來執行曾經讓他們脫穎而出的工作。勝出的公司將不是使用AI的那家，因為這將適用於所有公司。勝出的將是客戶信任能為其輸出背書的那家：能夠解釋一個數字是如何得出的，在監管機構追問時承擔責任，吸收客戶自己不想承擔的不確定性。同樣的邏輯也貫穿法律、保險、醫療、招聘和政府服務。問題已經從“系統能這樣做嗎”轉變為“我能信任它這樣做嗎，在這裡，在我的風險面前”。這是兩個不同的問題，只有第二個問題還保留著商業價值。

這就是為什麼採用率總是因為與能力無關的原因而失敗。一個團隊接受一個工具，而隔壁團隊悄悄拒絕使用它，這幾乎從來不是因為技術問題。而是相關人員是否信任系統一旦介入後，他們的工作、判斷和地位會發生什麼。實施預算花在了整合和培訓上，幾乎沒有花在真正的瓶頸上——人類願意交出決策。信任是每個部署之下的基礎設施，卻是在架構圖上沒有人畫出的那一層。

在國家層面上，這種模式變得更加清晰，而且目前有一個活生生的例子正在上演。當政府投資於永遠無法達到前沿水平的主權模型時，批評者稱之為虛榮支出。他們忽略了真正買的是什麼。不是優越性，而是信任：當政治風向改變時，關鍵系統仍然可用並在自己控制之下的能力。美國商務部對Anthropic的Mythos級別模型的指令使這個抽象論點突然變得具體：一套“可信賴合作伙伴”賴以運營的能力因他人的政策決定而被關閉，外交後果讓每個觀看的政府都清楚地知道依賴的代價。AI中的主權一直是一個穿著工程外衣的信任問題。出口管制只是脫掉了那件外衣。

同樣的修正也適用於就業討論。“AI將取代多少工作”只會引發恐慌，而不能帶來洞察。更有用的是：當一個職業中智慧不再是稀缺資源時，什麼變得有價值？答案是智慧本身無法提供的一切：決定採取哪個答案的判斷力，出錯時對後果的責任感，讓客戶直接聯絡你而不是系統的關係。這些一直是任何角色中高階的、難以替代的部分。豐富的智慧並不會消除它們，而是剝離了圍繞它們的日常工作，讓它們暴露得更明顯，也更有價值。

因此，諷刺之處在於整個事情的中心。這些系統越強大，約束條件就越不是智慧，而是信任。一封平庸的AI寫的電子郵件如果錯了幾乎不花任何成本。但在招聘決策、診斷、索賠流程或基礎設施系統內部的AI則承載著真實後果，而後果正是信心必須贏得而非假設的地方。下一階段的價值將不僅僅歸屬於建造最強大模型的人，還將歸屬於解決其他人視為事後問題的人：幫助人們理解、治理、審計並實際上與這些系統並肩工作。前沿實驗室本月正在艱難地學習這一點。市場的其他部分也即將體驗到。