OpenAI與博通推出AI推理晶片
該晶片將使AI模型提供商能夠提供更低的token價格，可能緩解企業對高token成本的擔憂。
OpenAI與博通公司聯合推出了一款專為AI推理設計的晶片。該晶片能夠顯著降低AI模型執行時的token消耗成本，使模型提供商可以設定更具競爭力的價格。此舉有望緩解眾多企業因高昂token費用而產生的顧慮，推動AI應用更廣泛地落地。晶片的推出標誌著AI基礎設施領域的重要進展，為行業帶來了成本最佳化的新可能。
該晶片將使AI模型提供商能夠提供更低的token價格，可能緩解企業對高token成本的擔憂。
OpenAI與博通公司聯合推出了一款專為AI推理設計的晶片。該晶片能夠顯著降低AI模型執行時的token消耗成本，使模型提供商可以設定更具競爭力的價格。此舉有望緩解眾多企業因高昂token費用而產生的顧慮，推動AI應用更廣泛地落地。晶片的推出標誌著AI基礎設施領域的重要進展，為行業帶來了成本最佳化的新可能。