AI News HubLIVE
站內改寫3 分鐘閱讀

謊言的行業,或領導者需要了解的AI真相

人工智慧已成為一個充滿謊言的行業,充斥著過度承諾和兌現不足。本文為人員領導者提供關於採用AI的實用建議,重點關注成本、基於消耗的定價、代幣最佳化以及利用競爭做出明智決策。

來源Hacker News AI作者: doener

最近,我與一位部門主管進行了一次對話,他非常渴望將AI引入團隊,但他完全沒有技術背景,整個部門也從事著與AI完全無關的工作。他問我,作為人員領導者,到底需要了解AI的哪些方面,以及AI用例失敗的最常見原因是什麼。這促使我開始思考:領導者真正需要掌握哪些實用知識?

答案不是AI如何具有變革性——他們已經在無數演示中聽過這些了。事實上,AI正被強加給員工:據報道,埃森哲現在追蹤高階員工每週使用人工智慧的頻率,並將這些採用指標與晉升機會掛鉤。近年來,AI已變成一個充滿謊言的行業:benchmaxxing、幻覺般的諮詢報告、過度承諾而兌現不足、以及連損失函式都沒聽說過的AI專家——幾乎沒有哪個領域像AI這樣充斥著謊言。

首先要明白的是:AI並不便宜。如果缺乏適當的控制,一個真正有用的AI應用最終可能比一名全職員工還昂貴。更棘手的是價格不可預測。三個月前,你可能預算大約1100歐元一個月的GitHub Copilot Enterprise,供一個30人的開發者團隊使用。現在,同樣的預算可能連一個重度使用者都不夠:自GitHub在2026年6月轉向按用量計費以來,成本按處理請求的模型API費率按代幣計算,隨著推理模型成為預設選項,個人月度賬單已達數百美元。需要預算多少很難提前計算,因為沒有可靠的方法。

許多AI工具——尤其是編碼助手和企業平臺——已經從固定訂閱轉向基於消耗的定價,即按每百萬代幣付費。AI API也受到影響,儘管它們一直是基於消耗的。代幣成本還在上升。Anthropic的Claude Fable 5配備了新的分詞器,從相同的輸入文本中生成大約多30%的代幣,這意味著昨天花費10,000代幣的相同系統提示和對話歷史,今天花費13,000,而你所傳送的內容沒有變化。OpenAI的GPT-5.5在每條計費線上價格翻倍。每百萬代幣的價格最高可達50美元。而一百萬能做什麼?根本無法預測。

價格包含推理代幣——LLM在嘗試解決問題時的內部思考。一個看起來只有500個輸出代幣的響應,可能消耗了50,000甚至更多。每個請求的價格在一定程度上取決於程式設計師用詞的能力,但更關鍵的是每次請求傳送的上下文量:整個聊天曆史、代理描述、工具、MCP伺服器和系統提示——所有這些在每次呼叫時都會被計費。但最重要的因素是運氣。如果LLM碰巧迅速生成正確的推理軌跡,你就省錢;如果沒有,它可能無限迴圈試圖自我糾正。模型的選擇也很重要,有些模型推理時間更長。被停用的Fable模型可以輕鬆從一個提示中燒掉50美元甚至更多。

沒人能告訴你你的員工每月需要X代幣。最好的辦法是計算對你來說經濟上可行的是什麼:生產力與成本之間的權衡。如果你開發者的配額在三天內用完,會發生兩件事:他們在月底剩下的時間裡出貨速度慢得多,或者他們會使用自己的私人賬戶。68%的員工已經使用個人AI賬戶處理工作任務,其中57%輸入了敏感公司資料,影子AI資料洩露的平均成本為420萬美元。

所以重要的步驟是:向團隊透明地公開價格和配額;培訓開發者減少代幣消耗的最佳實踐——提示最佳化、上下文管理和快取本身就能削減成本;考慮替代方案,例如本地部署MiniMax模型。本地模型不會完全取代專有模型,但你可以將更簡單的任務路由到它們以降低成本。

還要利用AI領域激烈的競爭。AI已成為高度競爭的空間。Anthropic、OpenAI和Google不斷相互挑戰。中國提供商正大幅削弱西方價格——釋出功能強大的模型,可在本地、雲端或透過API使用。OpenAI正在考慮大幅降價以避免將企業市場份額輸給Anthropic。你應該密切關注這一切,實現提供商多樣化,並重新談判優惠。我見過許多公司只是使用開發者一兩年前選擇的提供商。透過切換,你可以防止影子AI,獲得不間斷的模型訪問,並節省數千美元。例如,GLM-5.2——三天前由Z.ai釋出的開源權重模型——輸入代幣每百萬1.40美元,輸出代幣每百萬4.40美元。它剛剛在眾包HTML設計基準Design Arena上獲得第一名,擊敗了Claude Fable 5(後者輸出代幣每百萬50美元,目前因美國政府出口管制令而不可用)。正如《百頁機器學習書》系列作者Andriy Burkov在X上所說:他使用GLM-5.2配合OpenCode代替Codex已有三天,“看不出任何區別”,並已取消Anthropic訂閱。

但事情並不那麼簡單:強迫開發者使用太弱的模型會帶來巨大的技術債務。用廉價的開源權重替代品替換強大的專有模型,產品質量的下降可能遠超成本節省。請諮詢內部專家,引入嚴格的評估流水線,並依賴經過驗證的研究和可靠的基準測試。無論你是否選擇AI Realist這類服務,都要清楚瞭解風險:表現不佳的模型、資料隱私限制、維護自有基礎設施的開銷、吞吐量等問題。

總之,AI採用的關鍵在於平衡生產力與成本,透過透明定價、員工培訓、明智的供應商選擇以及嚴格評估,企業才能真正從AI中受益。