AIの「メモリウォール」を突破する新サーバー

AIハードウェアスタートアップのMajestic Labsは、最大128テラバイトのメモリを搭載した新しいAIサーバー「Prometheus」を開発中です。これはNvidiaのDGX B300サーバーの60倍以上です。DRAM中心のアーキテクチャを採用し、専用の銅線ケーブルメモリインターフェースとカスタムメモリ集約チップにより、最大25.6 TB/sの帯域幅を実現します。12個のIgnite AIプロセッサ（ARM + RISC-Vコア）を搭載し、PyTorch、vLLM、Tritonフレームワークをコード変更なしでサポートします。2027年に出荷予定で、資本支出と消費電力を10～50倍削減すると主張しています。