CerebrasとAMD、世界最速の分離型AI推論ソリューション構築で提携

分離型AI推論は、エンタープライズAIの大規模展開を妨げるプリフィルとデコードのボトルネックに対する補完的な解決策として、その有効性を証明しつつある。CerebrasとAMDは、世界最速の分離型AI推論ソリューションを構築するための提携を発表した。

Cerebrasの最高マーケティング責任者であるJulie Choi氏によると、今回の協業は、計算集約型のプリフィルフェーズにAMDのHeliosラックスケールアーキテクチャを、超低レイテンシのデコードにCerebrasウェハスケールエンジンを組み合わせるものだ。この組み合わせにより、既存のソリューションと比較してワットあたり5倍のトークン処理能力を実現する。今年後半には、Cerebrasは自社データセンターにAMD Heliosシステムを導入し、本番環境のプリフィル層を強化する計画だ。

Choi氏はtheCUBEのインタビューで、「LisaとAndrewが、AMDとCerebrasが世界で最も強力な分離型推論ソリューションで協業することを発表しました。この場合、1+1は5になります」と述べた。同氏は分離型AI推論の技術アーキテクチャと、どのワークロードが最も需要を牽引しているか、また2026年末までにCerebrasデータセンター内でAMD Heliosを展開するパートナーシップの理由について説明した。

分離型AI推論のアーキテクチャロジックは比較的単純だ。プリフィルは計算集約的だが、AMD Heliosのような最適化されたGPUインフラで管理可能である。デコードはメモリ帯域幅に制約される。Cerebrasウェハスケールエンジンは、競合するNvidia GPUの約2000倍のメモリ帯域幅を備えており、大規模AI推論のデコードボトルネックに特化して設計されている。Choi氏は「デコード部分はメモリ帯域幅に制約された問題です。Cerebrasウェハスケールエンジンは最大のメモリ帯域幅を持ち、Nvidia GPUの2000倍です」と述べた。

分離型AI推論の需要を最も牽引しているワークロードは、エージェントコーディング、リアルタイム音声、マルチモーダル生成である。これらはすべて応答速度が機能要件となるカテゴリだ。5倍のスループット向上により、同じインフラで劇的に多くの同時ユーザーにサービスを提供できる。Choi氏は、年内に共同の市場投入活動を予定していると述べた。また、Cerebrasは今年中にAMD Heliosシステムを自社データセンターに導入し、プリフィル層を強化する。これにより、パートナーシップは製品協力と生産インフラへのコミットメントの両方を意味する。

Choi氏は「私たちのビジョンは、速度と最大のインテリジェンスをトレードオフなしに、地球上のすべての開発者に提供することです」と締めくくった。