開放權重AI是減速主義的嗎?
OpenAI戰略未來主管Dean Ball認為開放權重模型本質上是減速主義的,因為它們抑制資本支出。本文從經濟學角度探討了這一觀點,分析了中國在AI基礎設施方面的投資、訓練範式的轉變以及價值在價值鏈中的遷移。文章認為,開放權重模型可能通過降低成本擴大應用範圍,促進創新,從而實際上是加速主義的。
當OpenAI的戰略未來主管Dean Ball最近評論Kimi的新K3模型時,他不僅僅是在批評競爭對手。他無意中點燃了硅谷最激烈的派系爭論。這篇帖子似乎將開放權重模型(向公眾發佈其內部數學藍圖)定位為“本質上是減速主義的”。
“開放權重模型本質上是減速主義的,我不斷驚訝於所謂的‘加速主義者’對開放權重模型如此興奮。我懷疑原因是他們知道開放權重模型實際上是無法治理的,他們只是喜歡開放權重模型在整個AI領域製造的無法治理的整體外衣。這不是一個糟糕的策略;它讓我想起James Scott在‘不被治理的藝術’中描述的山區居民。儘管如此,最終,開放權重模型會阻止進一步的AI資本支出。”
“減速主義者”一詞僅存在於與加速主義的對立中——加速主義認為快速的技術擴散能加速創新和社會效益。相反,減速主義指的是任何減緩資本形成並因此延遲這些收益的事物。為什麼開放權重會符合這個條件?
這裏有很多需要解讀的內容。如果主張是開放權重阻止資本支出並因此減緩前沿發展的速度,那麼論證必須基於經濟學而非美學。這需要依次考察:代幣是否成為商品;中國建設和投資AI基礎設施的能力和意願;價值鏈中的價值歸屬;當前的訓練範式是否可持續;以及最終誰獲得了財務收益。
資本密集度與中國問題
目前,訓練大型語言模型成本高昂:專用芯片、龐大的數據中心、稀缺的工程人才和大量的數據。為這些項目提供資金的投資者期望持久的現金流。如果開放權重通過使模型更容易複製或微調而壓縮未來收入,那麼淨現值下降。理論上,資本會撤退。
當中國進入視野時,這種邏輯帶上了地緣政治色彩。雖然很容易用民族主義視角來描繪這個國家,但其經濟轉型是毋庸置疑的。通過連續的“七年規劃”,中國建立了規模驚人的製造業基地,使數億人進入中產階級。它把資本投向哪裏——鋼鐵、太陽能、電動汽車——往往重塑全球市場。
在內部工業化之後,問題在於當它向外輸出其強大動力時會發生什麼。太陽能電池板和電池是早期的答案。人工智能基礎設施可能是另一個。如果“工廠”曾經生產鋼鐵,那麼明天將生產代幣。憑藉低資本成本和對過度建設的容忍,中國可以補貼產能、壓縮利潤並動搖外國現有企業。對鋼鐵和太陽能傾銷的擔憂展示了這種策略。
從這個角度來看,開放權重似乎放大了威脅。如果智能可以被廉價複製並廣泛部署,美國公司從前沿模型獲利的能力就會減弱。一個充斥着補貼的開放權重智能的世界確實可能阻止高成本管轄區內的私人資本。
如果就此止步,減速主義的論點似乎合理。但它是基於當前訓練範式和當前收入預期的一個快照。
訓練範式與價值所在
當前模型主要是從頭訓練的:消耗大量語料庫,凍結權重,然後進行微調和強化。每一代實際上是從頭開始教育。連續學習和在線學習指向一個不同的未來——機器可以積累知識、丟棄錯誤並逐步適應,更像人類而非靜態快照。這種方法可以顯著降低前期資本支出。
François Chollet是AI領域的長期人物,他認為:
2040年的AI將不會建立在今天使用的技術棧上。它將更接近最優。當前的技術棧有3到4個數量級的數據低效率和4到5個數量級的計算低效率。接近最優的AI正是符號學習所能實現的。人們很難區分流體智能和知識,因為只要有足夠的準備,記憶的模板就可以成為即時適應的可靠替代品。
如果正確,那麼當前資本密集型的體制是暫時的。更根本的問題是價值在哪裏積累。目前,很多注意力集中在代幣上:機器生成智能的邊際單位。然而,代幣可能像電力一樣——不可或缺,但價格接近邊際成本。
OpenAI的CEO Sam Altman曾表示:
“我們看到的未來是,智能像電力或水一樣成為一種公用事業,人們按表向我們購買,並用於他們想用的任何用途。”公用事業可以盈利,但競爭和規模往往會壓縮利潤。
商品化並不一定意味着微不足道。木材有不同的等級;代幣也會如此。智能層可能會被細分並按相應定價。但競爭性市場往往會將即使是差異化的商品推向成本。如果是這樣,價值可能會沿技術棧上下遷移——到專門的應用程序、領域特定的工具、專有數據、工作流集成和補充服務。
電力提供了一個先例。它是一種計量商品,但卻實現了上游幾乎無法想象的價值創造。Linux是另一個例子。操作系統變得無處不在且基本免費,但巨大的價值卻在構建其上的公司中積累。開放權重模型可能發揮類似的功能,擴大貢獻者池並加速上層的創新。目前,有意義地參與前沿開發基本上侷限於少數實驗室。開放權重降低了這一門檻。
核心上,大型語言模型是有條件概率機器:將輸入代幣映射到輸出的數學變換。它們的力量在於這些變換的質量;它們的弱點在於可複製性。一致性引發標準化;標準化引發競爭。
展望未來
這是否使開放權重成為減速主義?只有假設當前的前沿商業模式是進步的唯一引擎時才會如此。這是一種狹隘的觀點。較低的智能成本擴展了可行應用的前沿。更廣泛的接觸增加了在邊緣進行實驗的頭腦數量。這兩種動態總體上都是加速主義的。
這並不否定對治理或濫用的合理擔憂。也不保證資本會被平穩分配。補貼性的產能過剩——無論是鋼鐵、太陽能還是代幣——可能具有破壞性。但破壞並不等同於減速。它可能重新分配租金而不減少整體創新。
如果一切不變,智能可能會趨向公用事業地位,具有競爭力的定價並嵌入各處。前沿實驗室可能在基礎模型上賺取更薄的利潤,但在集成、工具和專業服務上獲得更豐厚的利潤。中國將建設產能;其他國家也會。競爭將不再是關於誰擁有權重,而是關於誰掌握了圍繞它們的生態系統。
在這種視角下,開放權重並非本質上是減速主義的。它們是一種賭注:價值所在正在轉移,更廣泛的參與將比侵蝕現有租金更快地擴大蛋糕。風險不在於進步放緩,而在於基於稀缺性的商業模式在走向豐裕的世界中掙扎。
加速,換句話説,可能更少地依賴於守護工廠大門,而更多地取決於一旦大門打開後決定建造什麼。