OpenAI与博通推出AI推理芯片
该芯片将使AI模型提供商能够提供更低的token价格,可能缓解企业对高token成本的担忧。
OpenAI与博通公司联合推出了一款专为AI推理设计的芯片。该芯片能够显著降低AI模型运行时的token消耗成本,使模型提供商可以设置更具竞争力的价格。此举有望缓解众多企业因高昂token费用而产生的顾虑,推动AI应用更广泛地落地。芯片的推出标志着AI基础设施领域的重要进展,为行业带来了成本优化的新可能。
该芯片将使AI模型提供商能够提供更低的token价格,可能缓解企业对高token成本的担忧。
OpenAI与博通公司联合推出了一款专为AI推理设计的芯片。该芯片能够显著降低AI模型运行时的token消耗成本,使模型提供商可以设置更具竞争力的价格。此举有望缓解众多企业因高昂token费用而产生的顾虑,推动AI应用更广泛地落地。芯片的推出标志着AI基础设施领域的重要进展,为行业带来了成本优化的新可能。