OpenAIとBroadcom、AI推論チップを発表
このチップにより、AIモデルメーカーはより低いトークン価格を提供できるようになり、高いトークンコストを懸念する企業の不安を軽減する可能性がある。
OpenAIとBroadcomは、AI推論に特化したチップを共同開発した。このチップは、AIモデルの実行時のトークン消費コストを大幅に削減し、モデルプロバイダーがより競争力のある価格を設定できるようにする。これにより、高いトークン費用を懸念する多くの企業の不安が軽減され、AIアプリケーションのより広範な展開が促進されると期待される。このチップの発表は、AIインフラストラクチャ分野における重要な進展を示し、業界にコスト最適化の新たな可能性をもたらす。