OpenAI和博通推出LLM最佳化推理晶片
OpenAI與博通聯合釋出Jalapeño晶片,專為大語言模型推理設計,旨在提升效能、效率和擴充套件性。
OpenAI與博通公司近日聯合釋出了名為Jalapeño的定製AI晶片,該晶片專門針對大語言模型(LLM)推理任務進行了最佳化。Jalapeño晶片的設計旨在提升AI系統的整體效能、執行效率以及擴充套件能力,以滿足日益增長的大規模AI部署需求。這一合作結合了OpenAI在AI模型領域的深厚積累與博通在晶片設計方面的專業經驗,預計將為AI推理領域帶來顯著的進步。Jalapeño晶片的推出標誌著OpenAI在硬體自研方向上邁出了重要一步,有望降低對外部晶片供應商的依賴,併為未來的AI應用提供更強大的基礎設施支援。