ZML釋出免費產品,加速跨AI晶片推理
法國AI初創公司ZML在被譽為圖靈獎得主Yann LeCun的支援下,推出了一款免費軟體,旨在使多種開源大型語言模型能夠在包括Nvidia、AMD、Google TPU、Apple Metal和Intel Arc在內的多種晶片上高效執行。
法國AI初創公司ZML近日釋出了一款免費的推理效能軟體,該軟體由圖靈獎得主Yann LeCun支援,旨在加速多種開源大型語言模型在各類AI晶片上的執行效率。這一舉措為AI硬體市場帶來了新的競爭活力,挑戰了Nvidia的主導地位。該軟體相容Nvidia、AMD、Google TPU、Apple Metal和Intel Arc等主流晶片,為開發者提供了更多選擇,有望推動AI推理的普及和降低成本。