AI程式設計代幣成本或將超過使用它們的開發人員薪資

Gartner最新報告指出，AI程式設計代幣的定價模式正在經歷重大轉變，從傳統的按座位許可轉向基於消費的定價，導致開發者團隊面臨前所未有的成本波動。據Gartner高階首席分析師Nitish Tyagi介紹，AI程式設計賬單已從每月20美元或100美元迅速攀升至每位開發者每月2000至5000美元，極端情況下甚至可達2萬美元。這種成本激增讓許多企業措手不及，尤其是那些在早期採用按座位許可模式時未預留充足預算的公司。

然而，軟體工程部門對token消耗的計算和計費方式知之甚少，難以準確預測和控制成本。Gartner批評AI程式設計代幣供應商缺乏必要的內建功能來幫助開發者最佳化成本，從而導致成本失控。Tyagi表示，目前沒有供應商在成本最佳化方面提供出色的功能，反而專注於所謂“tokenmaxxing”的概念，鼓勵開發者增加token消耗以提升生產力，但實際效果並不明確。他指出，“token消耗的增加與生產力提升之間沒有直接關聯。”

Gartner建議開發者團隊最佳化token消耗，採用上下文工程實踐，即改善向AI系統提供的輸入上下文質量。例如，透過更精準的提示和更相關的上下文片段，可以減少不必要的token浪費。此外，模型路由策略也被推薦，將簡單高頻任務分配給更小的模型，僅將複雜高價值工作留給前沿模型。這些方法不僅能提高輸出質量，還能間接提升生產力。Tyagi強調，“最佳化token消耗與輸出質量之間存在正相關關係。”

由於缺乏成本最佳化工具，AI開發領域正面臨極端情況：在某些地區，開發者使用的AI程式設計代幣成本可能超過其自身薪資。Gartner預測，到2028年，隨著大語言模型token消耗的增長和消費定價模式的普及，AI程式設計成本將超過全球平均開發者薪資。Tyagi指出，目前在美國等高薪資國家，AI代幣成本尚未達到薪資水平，但在印度等地，成本已相當於擁有四到六年經驗的工程師薪資。值得注意的是，AI程式設計代幣的成本並不因地域而異，這意味著印度開發者的代幣成本可能與美國相當，但其薪資水平卻遠低於後者。這種不平衡進一步加劇了成本壓力，促使企業重新評估AI工具的投資回報率。Gartner呼籲供應商儘快推出成本最佳化功能，同時開發者也應主動採取策略控制token消耗，以避免AI工具成為財務負擔。