AI News HubLIVE
站内改写4 分钟阅读

人工智能的真正瓶颈在于数据交付

企业大规模部署AI时,最大障碍往往是数据从存储到计算的基础设施,而非GPU等计算硬件。文章指出,许多组织误以为性能问题需要更多计算资源,实则根源在于数据饥饿,即数据无法高效、安全、持续地在存储与计算之间流动。通过引入应用交付控制器实现松耦合架构,以及关注可达性、策略和交付三个维度的韧性,可显著提升GPU利用率和AI投资回报。

来源Hacker News AI作者: adithyaharish

随着企业加速扩展人工智能(AI)应用,一个关键挑战正在浮出水面:真正制约AI性能和投资回报率的,可能不是昂贵的GPU或大型语言模型,而是数据从存储到计算的基础设施。

过去18个月,企业在GPU、LLM和AI工具上投入巨资,但如今焦点正从实验转向运营,ROI成为核心指标。2025年IDC Spotlight报告指出,组织正在从一次性的AI部署转向可重复、可扩展的架构,以支持生产工作负载。随着AI嵌入业务,性能、安全、可靠性和操作一致性变得与模型创新同等重要。

然而,数据在存储和计算之间的移动正变得越来越复杂。AI环境日益分布式化,确保数据快速、安全、可靠地到达计算资源已成为关键基础设施挑战。这迫使CIO们面对一个棘手问题:如何将AI投资转化为可衡量的业务价值?

当AI项目表现不佳时,许多技术领导者会认为需要更多计算能力。他们增加GPU、扩展集群或寻找更好的模型。但据运营大规模AI环境的基础设施团队透露,问题往往出在其他地方。GPU并不缺乏计算能力,它们缺乏的是数据。昂贵的计算资源只有在其供给系统高效时才能发挥效用。如果数据无法在存储和计算之间高效、安全、一致地移动,即使最强大的GPU集群也会闲置。而空闲的GPU是数据中心最昂贵的资产之一。中断成本也在上升。据Uptime Institute的年度中断分析,超过一半的组织表示最近一次重大中断损失超过10万美元,五分之一报告损失超过100万美元。

要理解AI项目为何停滞,需要重新思考传统基础设施模型。F5产品营销高级副总裁Nirav Shah将现代AI基础设施比作冰山。水面之上是高管们能看到的:LLM、AI应用、编排框架和日益昂贵的GPU集群。这一可见层获得了大部分关注和投资。水面以下是决定这些投资是否在生产中交付价值的基础设施:存储、网络、流量管理、安全控制以及负责在存储和计算之间移动数据的系统。Shah说:“每个人都关注那10%的可见部分,但正是另外90%决定了这些投资是否真正有效。”

许多组织正是在这里发现了真正的瓶颈。现代AI系统依赖于存储在S3兼容对象环境中的海量非结构化数据。训练、微调、检索增强生成(RAG)和推理工作负载都依赖存储系统和GPU环境之间的持续数据流。当这条管道受限时,GPU利用率就会下降。F5解决方案架构师Mark Menger说:“症状看起来像是计算问题,但根本原因往往是数据饥饿。”与传统企业应用不同,AI工作负载会放大小的基础设施弱点。在传统环境中可能被忽略的延迟尖峰、吞吐量阻塞或流量激增,都会对AI性能产生巨大影响。

因此,许多组织开始将目光投向GPU之外,聚焦于存储到计算的边界。

从紧耦合到松耦合的架构转变

许多瓶颈可以追溯到AI出现之前的架构决策。历史上,企业直接将应用连接到存储环境。这种方法简单、高效、易于管理。但在AI规模下,这种简单性变成了负担。存储系统突然要处理远超存储本身的工作:终止加密连接、管理网络流量、执行安全策略以及处理来自日益分布式AI工作负载的海量请求。每个加密事务都会消耗CPU资源,每个连接都会产生开销,每次流量激增都会给本为存储和检索数据而设计的系统带来额外压力。结果就是典型的架构问题:存储平台忙于执行它们从未优化过的工作。

为了解决这一挑战,许多组织正转向松耦合架构。它们不在直接连接计算和存储,而是在两者之间插入一个应用交付控制器(ADC)。作为智能控制平面,ADC成为存储的前门,处理TLS终止、证书管理、流量优化、策略执行以及协议感知的S3处理。通过将网络和加密功能转移到专门为这些工作负载设计的基础设施中,存储系统可以专注于它们最擅长的事情:服务数据。这种方法还创造了操作灵活性:存储环境可以升级、扩展或迁移,而无需强制更改应用——基础设施团队常称之为松耦合。

重新审视“线路中的凸起”

几十年来,基础设施团队对数据路径中的任何附加层都持怀疑态度。假设很简单:每个额外组件都增加延迟。AI基础设施正在挑战这一假设。SecureIQLab进行的独立测试评估了在企业对象存储前放置ADC的影响。结果显示,与直接节点访问相比,吞吐量没有明显损失,性能通常保持在狭窄的方差范围内。更有趣的是,测试发现,在真实网络条件下,当流量通过控制层管理时,吞吐量往往表现更好。原因很简单:ADC不仅仅是转发流量,它还在优化连接、管理协议、卸载加密处理并智能地引导请求。换句话说,它在帮助数据路径更高效地运行。

当数据交付成为业务问题

当AI系统遇到困难时,答案并不总是更多的GPU,有时是更好的工程。一家大型全球金融服务机构在准备通过Kubernetes托管的工作负载和S3对象存储扩展AI基础设施时,其现有环境依赖共享虚拟负载均衡,随着数据量增加,性能和可靠性都面临挑战。该组织没有投资额外计算容量,而是专注于存储到计算的边界。它在对象存储环境前部署了专用物理ADC基础设施,创建了流量管理和S3优化的集中控制点。结果令人瞩目:对象创建、读取和删除操作性能提升了至少五倍,在某些情况下删除延迟改善了超过一个数量级。同样重要的是,新架构与直接节点访问相比没有引入性能退化。

韧性的三个维度

性能只是故事的一部分。据Menger介绍,组织应通过三个维度评估其AI数据交付架构:可达性、策略和交付。可达性确保AI工作负载始终能够访问健康的存储资源。如果存储集群降级或不可用,流量可以自动重定向而不会中断AI应用。策略保护组织免受自身造成的干扰。AI工作负载可能产生“惊群”场景、重试风暴和其他能够压垮存储环境的流量异常。一个智能控制层可以塑造流量、执行策略并维护一致的安全态势而不牺牲性能。交付侧重于连续性:存储节点会故障,硬件会升级,软件会打补丁。一个有韧性的架构将AI客户端与这种动荡隔离,即使在后台基础设施变化时也能保持不间断的数据流。这三个能力共同帮助确保GPU即使在底层环境承受压力时也能保持生产力。

从ADC到ADSP的演进

随着AI环境变得更大、更分布式,组织发现流量管理已不足够。它们还需要可观测性、安全、策略执行和操作一致性。这一转变推动了对应用交付与安全平台(ADSP)的兴趣,该平台将应用交付、流量工程、安全控制和可见性整合到统一平台中。Shah说:“AI打破了将交付和安全作为独立问题解决的模式。当数据在混合多云环境中持续在存储、计算和应用之间移动时,你需要一个同时交付和保护这些流量的平台。”这一趋势反映了20年前Web基础设施的演变。从简单的负载均衡开始,最终演变为能够管理日益复杂环境的成熟应用交付平台。AI基础设施正沿着类似路径发展。随着企业在混合云、多云、边缘和本地部署间扩展,集成控制平面变得愈发有价值。

基础设施的使命

过去两年,AI行业专注于计算。但企业AI越来越成为数据交付问题。如果数据无法在存储和计算之间高效移动,模型和GPU就无法创造价值。对于面临展示AI投资回报率压力的CIO来说,下一个突破可能来自购买更多GPU,而是让你已经拥有的GPU保持“饱食”。