新型服务器有望突破AI的“内存墙”

AI硬件初创公司Majestic Labs正在开发一种名为Prometheus的新型AI服务器，配备高达128TB的内存，是Nvidia DGX B300服务器的60倍以上。该服务器采用DRAM中心架构，使用专有微型铜缆内存接口和自定义内存聚合芯片，提供高达25.6TB/s的带宽。它包含12个Ignite AI处理器，结合ARM和RISC-V核心，支持PyTorch、vLLM和Triton框架，无需修改代码。预计2027年发货，声称可将资本支出和功耗降低10至50倍。