AI在“計分便宜”之處即為超人
AI的能力分野並非難易,而在於驗證答案的成本:計分便宜處(代碼、數學、漏洞挖掘)AI已超人;計分昂貴處(職業建議、談判、審美)依然平庸。互聯網文本耗盡後,合成數據與可驗證強化學習進一步放大這一不對稱,而慢速領域所依賴的資深判斷正被自動化侵蝕。
這世界上的AI能力分佈,乍看像一團亂麻,直到你發現那條隱藏的規則。AI在競技編程、形式數學、軟件漏洞挖掘和棋類遊戲中早已超越人類,卻在要不要接受一份工作、談判是否已經悄悄轉向對你不利、以及審美品味這類事情上,只是“還行”。最自然的解釋是前者簡單、後者困難,但這個解釋完全錯了。真正的規則是:AI在驗證答案便宜的地方變得超人,在驗證答案昂貴的地方保持平庸。重點不是“做”,而是“檢查”。
為什麼?因為訓練循環需要信號。幾十年來,做出更好模型的配方就是更多文本、更多算力,但互聯網文本正在見底。全球高質量人類文本大約有10^14個token,模型已經消耗了約10^13個,剩下的一個數量級還是低質量部分。於是前沿轉向了合成數據、基於可驗證結果的強化學習,以及能夠廉價檢查答案的領域中的自我對弈。這個轉向不可能是中性的:它讓整個行業依賴一種分佈極不均勻的資源——便宜的答案校驗方式。
最典型的對比是兩條訓練循環。第一條是“毫秒循環”:模型寫代碼,單元測試運行,通過或失敗,瞬間給出信號,不需要人類,可以一天運行數百萬次。第二條是“六個月循環”:模型給出職業建議,你得等六個月觀察結果,再費力地把建議的效果從其他因素中剝離出來。同樣的模型、同樣的算力,左邊的已經做了五百萬次練習,右邊的只能坐在鐘錶旁等待。沒有哪種巧妙架構能修復一條根本跑不起來的循環。
由此可以預繪能力地圖:左邊是形式數學、帶測試的代碼、結構化檢索、有明確勝負的遊戲、自我驗證的網絡漏洞利用;中間是計算化學、窄域影像診斷、法律文書分析、可兑現的預測、電網調度;右邊是實驗生物學、臨牀判斷、談判與品味、社會科學與政策、特種農業和最後一公里配送。同一個模型,只是在左邊滑下山坡、在右邊推石頭上山。決定方向的不是智能,而是“誰在為答案打分”。
關於合成數據的標準反駁是:模型可以自己生成訓練數據。但這經不起推敲。未經過濾的合成數據會讓模型退化;每次成功案例,依靠的都是一個廉價驗證器作為過濾器,丟棄一切未被證實的樣本。自對弈、數學證明檢查、通過測試的代碼,莫不如此。因此合成生成不是驗證的逃逸,而是驗證的放大器:在驗證便宜處把信號放大無數倍,在驗證昂貴處幾乎什麼都不放大。
真正令人沮喪的是二階問題:慢速領域的進步依賴人類偏好和結果標籤,也就是資深判斷。而資深判斷恰恰是被此輪自動化侵蝕的資源——你得先當十年初級員工,做那些最先被自動化掉的工作,才可能成為資深。慢速領域消耗的,正是這個轉型正在切斷供應的燃料。單元測試不需要二十年經驗來寫,但判斷一個人生建議是否正確需要。這個迴路跑錯了方向,因此兩列之間的差距很可能先擴大、再收窄。
有三類誤讀需要提防:第一,把基準測試進展當作領域進展,律師考試便宜易打分,執業並不如此;第二,把領域平均化,醫學在窄域影像上快、在臨牀判斷上慢,平均成“中等”會丟掉部署路徑;第三,把排序當作就業預測,超人的代碼生成完全可能通過需求擴張增加程序員崗位。
想逃出慢速側?只能去買更便宜的地面真值:自動化實驗室讓實驗自行產出機器可讀結果;儀器化機器人制造從未公開存在的交互數據;按結果定價的合同把客户真實結果變成訓練標籤。每條路都會把領域向左拖,但不會刪除任何一列。機器人學尤其受制於“操作互聯網”的不存在;文本與代碼有現成的公開語料,物理交互卻只有空房間和一隻手套。
什麼可能打破這張表?學習式驗證。如果模型能夠為軟領域引導出可靠的驗證器,用稀疏人工標籤訓練出能正確泛化的評判者,那麼串聯線路就會斷開,放大器變成開環,昂貴領域不再落後,整張表重新洗牌。但要誠實計分:看的是不可驗證領域中的生產深度,而不是演示——願意把自己置於訴訟風險之間的評判模型,才值得認真對待。
落到個人身上,結論簡短而略帶不適:如果你的工作自帶廉價計分板,幾年內就會有比你更快的東西來跑這個計分板,你的卓越市場價值會向算力成本坍縮;如果你的工作沒有廉價計分板,你更安全,但保護你的恰恰也是讓你難以證明自己優秀的東西——這本身就是一個職業難題,而且永遠如此。