AI越來越貴，但緩解即將到來，不過不是為你

生成式AI應用和服務的成本日益高昂，因為模型開發商正努力應對不斷飆升的基礎設施開銷。雖然新一代GPU和AI加速器承諾降低推理需求帶來的壓力，但用户不會看到這些節省。

經過多年和數十億美元的投資，大型AI公司正開始為這項技術尋找除了聊天機器人和圖像生成器之外的實際用例。Claude Code、Codex、GitHub Copilot等代碼助手已成為AI迄今為止最大的成功故事，但歷史表明它們不會是最後一個。

然而，成功是一把雙刃劍。用於訓練這些模型的服務器羣原本不是為了以這種規模提供服務而建造的。推理和訓練是截然不同的。現在，銷售AI熱潮工具的公司正競相推出更適合服務於這些模型的新硬件。英偉達（Nvidia）從其儲備中拿出200億美元收購AI芯片初創公司Groq正是為了這個原因。AMD、AWS、英特爾和谷歌等公司也正在重新設計他們的GPU和AI加速器，以降低每token的成本。

更便宜的token意味着更好的推理經濟性、更高的利潤率，風險資本家希望OpenAI、Anthropic等公司最終能扭虧為盈。

問題在於，所有這些AI優化硬件尚未準備就緒。大部分承諾今年下半年推出，但需要時間解決技術問題並提升供應鏈，因此這些新系統的大規模部署要到2027年初至年中。

這為模型開發商提供了一個轉瞬即逝的機會，看看他們的產品有多令人上癮，以及市場能承受多少。我們看到，隨着GPT-5.5的推出，OpenAI將每百萬token的價格提高了一倍。谷歌也緊隨其後，其新推出的Gemini Flash 3.5價格是之前版本數倍。這些價格上漲還因為構建在這些模型之上的代理系統消耗token的速度比典型聊天機器人快幾個數量級。

固定費率定價在大多數客户未觸及使用上限時有意義，但當客户每月花費200美元購買價值5000美元的token時，就變得不合理。微軟已經認識到這一點，放棄了GitHub Copilot的席位定價，轉向基於使用量的定價。Anthropic也在重新考慮其定價模式，但並不是轉向純使用量計費，而是考慮淡化訂閲功能。

那些認為AI可以用很少的錢取代全職員工的高管將面臨現實。當Anthropic、谷歌或OpenAI可以收取每小時30美元的token費用，並聲稱這仍然比支付員工每小時40美元外加福利和失業保險便宜時，AI不會成為節省成本的靈丹妙藥。未來，AI定價可能會以每全職等效成本（$/FTE）而非每百萬token來營銷。

儘管如此，大型科技公司仍在為了追求AI而裁員數千人。本月，Meta裁減約10%的全球員工，關閉約6000個職位，並將約7000名員工重新分配到AI部門。Cloudflare裁減超過1100名員工，思科辭退約4000人，甚至新西蘭也計劃利用AI裁減約9000名政府工作人員。

競爭本應是高價的解藥，但前提是有利潤空間可削減。目前頂級模型開發商都深陷虧損。超大規模雲提供商具有優勢，他們可以在AI投資上虧損數年，同時依靠其他產品部門防止股東抗議。但總會有人需要構建模型。微軟、Meta和AWS正在嘗試模型訓練，但尚未證明能在任何有意義的方式上與OpenAI或Anthropic競爭。谷歌在這方面脱穎而出，其Gemini模型經常與GPT和Claude一較高下。

如果歷史有參考價值，AI繁榮和不可避免的蕭條將遵循熟悉的軌跡：泡沫中競爭激烈，但一旦破裂，整合不可避免。