AI News HubLIVE
站內改寫1 分鐘閱讀

AI“令牌最大化”熱潮消退,企業尋求削減技術支出

曾被視為矽谷榮耀的AI“令牌最大化”趨勢正在消退,企業意識到無節制使用AI成本高昂且收益有限。多家科技高管和諮詢公司呼籲更理性的AI投資策略,並探索模型路由和開源替代方案。

來源Hacker News AI作者: geox

曾經在矽谷盛極一時的AI“令牌最大化”(tokenmaxxing)潮流正迅速降溫。所謂令牌最大化,是指企業儘可能多地使用AI令牌——生成式AI的基本單位,每個令牌約對應四分之三個單詞——以期榨取AI的最大產出。今年春季,科技行業高管曾大力推崇這種做法,將其視為員工高績效的標誌。OpenAI CEO薩姆·奧爾特曼、輝達CEO黃仁勳等人都曾公開表示支援,Meta甚至內部舉辦過令牌使用獎勵競賽。然而,隨著賬單不斷累積,企業開始意識到盲目追求令牌消耗並未帶來相應的生產力提升,反而導致成本激增。

穆迪評級AI分析主管文森特·古斯多夫在其新報告中指出,“用AI創造不需要的東西很容易”,他建議採取更自律的方法。微軟CEO薩提亞·納德拉最近警告,令牌最大化可能讓人上癮,但客戶實際上為AI支付了雙重成本:一是令牌費用,二是將自己的專有資料餵給模型。帕蘭提爾CEO亞歷克斯·卡爾普更直言不諱,稱企業對令牌支出“怒不可遏”,因為大量花費並未創造價值。

諮詢公司貝恩的管理顧問王珏表示,許多大企業正仔細審視AI投資回報率。“令牌成本幾乎每隔一個月就翻一番,”她舉例說,“假設每位開發者每月200美元,乘以2萬名開發者,很快就能達到任何總經理都未預計劃的數字。”因此,企業開始尋求更智慧的“模型路由”工具,將簡單的查詢自動分配給更便宜高效的模型,而複雜任務則交給更強模型。例如,生成普通郵件就無需使用Anthropic的Claude Opus 4.6這類高成本模型。

與此同時,中國初創公司的開源模型如月之暗面的Kimi和智譜的GLM,以接近美國頂尖模型的效能大幅降低了成本,為令牌最大化愛好者提供了新選擇。但莫齊拉CTO拉菲·克里科裡安認為,從行業整體看,令牌最大化是“愚蠢的事”,它正步程式設計師程式碼行數指標的後塵,很快會被拋棄。克里科裡安預測,一年後回看,這將成為有趣的笑談。