AI不平等:從GPU貧困到Token貧困
本文討論了AI領域的持續技術進步與擴散瓶頸之間的矛盾。Anthropic釋出的新模型Fable 5展現出驚人的能力提升,但其高昂的成本、有爭議的安全限制策略(最初靜默降低能力,後改為可見降級)以及資料收集政策引發了關於AI權力集中和訪問不平等的擔憂。文章還引用了Dario Amodei關於AI政策與公民自由的論述,指出其原則與Anthropic的實際做法存在矛盾。
上週,本通訊質疑實驗室內部人員是否真的看到了外界所讀到的週期末訊號,或者他們急於IPO是否因為看到了市場尚未定價的東西。本週,Anthropic從技術角度給出了一個近似的答案:Fable來了,它強化了作者的觀點——模型技術能力實際上並未停滯,AI寒冬將源於資金短缺和採用率不足。
Fable 5是Anthropic新Claude 5系列中的第一個模型,屬於名為“Mythos類”的新能力層級,位於Opus之上。釋出的關鍵點在於,Fable 5和Mythos 5本質上是同一底層模型,區別在於Fable的嵌入式護欄。在基準測試中,Fable在編碼、金融推理和生物學領域均取得突破性成績,例如在蛋白質設計上加速約10倍,在分子設計任務中生成14個強候選藥物中的9個,並完成僅使用視覺輸入的遊戲《寶可夢 火紅》。然而,這個模型使用成本極高:每百萬輸入令牌10美元,每百萬輸出令牌50美元。
社群成員Victor Taelin在解決電腦科學難題時測試了Fable。此前他用大量GPT-5和Opus模型花費20小時僅獲得6-34%的加速,且程式碼質量下降。而Fable在兩小時內實現了高達1770%的加速,並主動發現並修復了Taelin程式碼中的一個細微指標別名錯誤。Taelin感嘆:“這關乎我們作為物種的共同未來。”這證實了AI技術仍在大幅加速,而作者上週提出的AI寒冬框架是關於擴散和採用,以及企業尚未學會使用工具的問題。Fable表明天花板可能仍在快速上升。
此次釋出伴隨著爭議。最受關注的是Fable會靜默限制自身在前沿AI開發方面的能力,例如構建大型模型預訓練管道、設計訓練資料管道等。Anthropic估計這影響約0.03%的流量,但這一群體可能是使用該技術最廣泛的。當Fable用於前沿LLM開發時,它不會通知使用者,而是降低模型能力。這種策略被比作1968年的《核不擴散條約》或劉慈欣《三體》中的智子——不是阻止科學,而是讓下一步變得不可能。Semianalysis團隊指出,這類似於核不擴散:已經擁有核武器的國家宣佈其他國家不得擁有。Sayash Kapoor指出,靜默降解使得第三方評估者無法進行嚴肅的能力評估,破壞了獨立監督機制。
然而,在作者撰寫本文時,Anthropic收回這一政策。此後,延遲請求將顯式回退到Opus 4.8,API上被標記的請求將返回拒絕原因。Anthropic解釋稱,隱形防護可以更精確地瞄準,但使用者應該瞭解防護措施。不過,公開拒接也可能使繞過更容易。此外,Anthropic收集所有使用者的資料用於訓練,且從6月23日起,Fable的訂閱訪問將關閉,僅剩按使用量付費的API。
作者認為,這些措施疊加起來更像是一種商業策略:展示能力、建立依賴、關閉訪問、轉向按量計費,同時收集訓練資料並限制競爭對手。這類似於GitHub Copilot的補貼定價策略,先鎖定使用者再提取價值。Dario Amodei在同一周發表了一篇關於AI政策的文章,主張政府行動中的人們應獲得至少與政府同等能力的AI,並強調分享利益的關鍵挑戰。然而,這些原則與Anthropic自身的訪問模式相矛盾:經過批准的實驗室可以使用不受限的Mythos,而外部研究人員只能使用受分類器限制的版本,無法縮小差距。