新型服務器有望突破AI的“內存牆”

AI硬件初創公司Majestic Labs正在開發一種名為Prometheus的新型AI服務器，配備高達128TB的內存，是Nvidia DGX B300服務器的60倍以上。該服務器採用DRAM中心架構，使用專有微型銅纜內存接口和自定義內存聚合芯片，提供高達25.6TB/s的帶寬。它包含12個Ignite AI處理器，結合ARM和RISC-V核心，支持PyTorch、vLLM和Triton框架，無需修改代碼。預計2027年發貨，聲稱可將資本支出和功耗降低10至50倍。