AI News HubLIVE
站內改寫2 分鐘閱讀

對AI說“你好”的真正成本

詳細分析AI互動的隱藏成本:雖然token費用微不足道,但等待時間會顯著影響生產力和薪資,往往超過API費用。對14個模型的測試顯示,模糊提示會導致過多的工具呼叫和延遲。

來源Hacker News AI作者: stared

當你對AI說“你好”時,token費用不到0.005美元。但你的時間並非免費。在AI思考時,你只能等待,而沒有人把等待計入賬單。以平均開發者薪資計算,回答一次問候的等待成本為0.07美元(使用最便宜的模型GPT-5.4-mini),而最慢的模型則要花費0.84美元,還有模型在5次嘗試中有3次失敗。

我並非唯一計算這筆賬的人。有人發帖稱,GPT-5.4 Pro對一個簡單的“你好”回覆竟花費80美元,被稱為“過度思考的AI”。這雖然是極端案例,但現象真實存在且可量化。

我測試了14個模型,以證明等待時間(而非token定價)才是AI的隱藏成本。我的實驗在同一個小型Git倉庫中進行,每個模型作為終端智慧體執行。我有三個提示:“你好”、“commit”和“WTF”。每個提示對每個模型執行5次。

對於“你好”,有些模型快速回應:GPT-5.5和Grok僅使用2次工具呼叫。但其他模型則過度解讀。Sonnet平均使用24次工具呼叫,耗時49秒。它讀取了所有檔案,執行應用,甚至進行了未請求的程式碼提交。Haiku有3次超時,Minimax也有3次失敗。

作為對照,“commit”是一個明確的任務,所有模型100%成功,工具呼叫5-10次。一個真實任務比一句問候更容易處理。而“WTF”則導致混亂:Kimi平均43次工具呼叫,DeepSeek有4次失敗。Gemini 3.1 Pro無限迴圈直到超時,Fable則完全僵住。

現在計算等待成本。將LLM API費用與等待時間(按年薪12萬美元計算)相加。對於GPT-5.4-mini,等待成本是token成本的20倍。整個表格顯示,總成本主要由等待時間主導。

教訓是:提示詞是成本驅動因素。在相同環境下,總成本從0.08美元(GPT-5.4-mini的“你好”)到1.39美元(Qwen的“WTF”)不等。模糊性才是你付出的代價。token幾乎無關緊要——每秒0.016美元的等待成本遠超API費用。

整個行業正競相使模型更智慧。但我支付的並非智慧,而是等待。讓模型更快更便宜,提示成本將大幅下降。下個10倍改進就在於此,而非另一個基準分數。

在那之前,一個免費且現成的最佳化方法是:直接說出需求,不要客氣。它畢竟只是一臺機器。