Token per watt成为存储进入AI关键路径的衡量标准

在人工智能数据中心中，一个全新的效率指标——每瓦特生成的token数（token per watt）正在取代原始计算能力成为衡量标准。这意味着存储系统不再只是配角，而是直接影响了GPU的工作效率。Solidigm公司AI生态系统副总裁Avi Shetty表示，随着代理型AI（agentic AI）对上下文记忆的需求爆炸式增长，固态存储的角色已从事后考虑变成了关键路径。KV缓存卸载、推理数据流水线和不断扩大的上下文窗口正在AI集群内部创建一个新的存储层级，它决定了GPU是保持忙碌还是闲置。

Shetty指出，一个简单的提示词，例如“我们在巴黎，推荐五家最佳餐厅”，考虑到系统活动、工具活动、数据库请求，就会转化为约13GB的数据。当缓存被逐出时，需要重建缓存，此时GPU等待，这是不可接受的。因此，token per watt效率成为核心设计哲学。

Solidigm位于AI Central Lab的测试环境模拟真实的兆瓦级数据中心，在NVIDIA H100、B200和B300硬件上运行实际AI工作负载，与MinIO、Weka和NetApp等软件合作伙伴共同验证，展示了从单个节点到32节点、EB级容量的线性性能扩展。Shetty强调，现在没有人关心数据表上的随机读/写性能，大家关心的是在AI数据中心和AI工作负载中的实际表现。

Solidigm的旗舰122TB D5-P5336 SSD直接体现了密度优先的策略：24块这种SSD放在单个1U机架中即可提供4PB的存储，相当于将12个机架的硬盘驱动器整合为一个，功耗降低80%至90%。节省下来的电力可以重新分配给GPU。此外，公司还与NVIDIA合作设计了全球首款液冷SSD，以支持无风扇数据中心架构，其中极端性能产生的热量成为硬性约束。

“这一切的根本是高效存储，”Shetty总结道，“如果你追求密度，122TB的SSD，24块在一个1U机架中，就能获得4PB存储。这既提供了效率，也提供了按需扩展的机会。到明年，我们将把这个密度翻倍。”