OpenAI與博通推出AI推理芯片
該芯片將使AI模型提供商能夠提供更低的token價格，可能緩解企業對高token成本的擔憂。
OpenAI與博通公司聯合推出了一款專為AI推理設計的芯片。該芯片能夠顯著降低AI模型運行時的token消耗成本，使模型提供商可以設置更具競爭力的價格。此舉有望緩解眾多企業因高昂token費用而產生的顧慮，推動AI應用更廣泛地落地。芯片的推出標誌着AI基礎設施領域的重要進展，為行業帶來了成本優化的新可能。
該芯片將使AI模型提供商能夠提供更低的token價格，可能緩解企業對高token成本的擔憂。
OpenAI與博通公司聯合推出了一款專為AI推理設計的芯片。該芯片能夠顯著降低AI模型運行時的token消耗成本，使模型提供商可以設置更具競爭力的價格。此舉有望緩解眾多企業因高昂token費用而產生的顧慮，推動AI應用更廣泛地落地。芯片的推出標誌着AI基礎設施領域的重要進展，為行業帶來了成本優化的新可能。