推理给AI芯片初创公司提供了再次证明自己的机会

AI采用达到转折点，焦点从训练转向推理，初创芯片公司有机会在多样化的推理工作负载中抢占Nvidia的市场份额。Nvidia收购Groq、AWS与Cerebras合作、Intel与SambaNova合作等例子表明，分解式推理正成为趋势。Lumai的光学推理加速器和Tenstorrent的RISC-V平台也展示了不同路线。