人工智能的真正瓶頸在於數據交付
企業大規模部署AI時,最大障礙往往是數據從存儲到計算的基礎設施,而非GPU等計算硬件。文章指出,許多組織誤以為性能問題需要更多計算資源,實則根源在於數據飢餓,即數據無法高效、安全、持續地在存儲與計算之間流動。通過引入應用交付控制器實現松耦合架構,以及關注可達性、策略和交付三個維度的韌性,可顯著提升GPU利用率和AI投資回報。
隨着企業加速擴展人工智能(AI)應用,一個關鍵挑戰正在浮出水面:真正制約AI性能和投資回報率的,可能不是昂貴的GPU或大型語言模型,而是數據從存儲到計算的基礎設施。
過去18個月,企業在GPU、LLM和AI工具上投入巨資,但如今焦點正從實驗轉向運營,ROI成為核心指標。2025年IDC Spotlight報告指出,組織正在從一次性的AI部署轉向可重複、可擴展的架構,以支持生產工作負載。隨着AI嵌入業務,性能、安全、可靠性和操作一致性變得與模型創新同等重要。
然而,數據在存儲和計算之間的移動正變得越來越複雜。AI環境日益分佈式化,確保數據快速、安全、可靠地到達計算資源已成為關鍵基礎設施挑戰。這迫使CIO們面對一個棘手問題:如何將AI投資轉化為可衡量的業務價值?
當AI項目表現不佳時,許多技術領導者會認為需要更多計算能力。他們增加GPU、擴展集羣或尋找更好的模型。但據運營大規模AI環境的基礎設施團隊透露,問題往往出在其他地方。GPU並不缺乏計算能力,它們缺乏的是數據。昂貴的計算資源只有在其供給系統高效時才能發揮效用。如果數據無法在存儲和計算之間高效、安全、一致地移動,即使最強大的GPU集羣也會閒置。而空閒的GPU是數據中心最昂貴的資產之一。中斷成本也在上升。據Uptime Institute的年度中斷分析,超過一半的組織表示最近一次重大中斷損失超過10萬美元,五分之一報告損失超過100萬美元。
要理解AI項目為何停滯,需要重新思考傳統基礎設施模型。F5產品營銷高級副總裁Nirav Shah將現代AI基礎設施比作冰山。水面之上是高管們能看到的:LLM、AI應用、編排框架和日益昂貴的GPU集羣。這一可見層獲得了大部分關注和投資。水面以下是決定這些投資是否在生產中交付價值的基礎設施:存儲、網絡、流量管理、安全控制以及負責在存儲和計算之間移動數據的系統。Shah説:“每個人都關注那10%的可見部分,但正是另外90%決定了這些投資是否真正有效。”
許多組織正是在這裏發現了真正的瓶頸。現代AI系統依賴於存儲在S3兼容對象環境中的海量非結構化數據。訓練、微調、檢索增強生成(RAG)和推理工作負載都依賴存儲系統和GPU環境之間的持續數據流。當這條管道受限時,GPU利用率就會下降。F5解決方案架構師Mark Menger説:“症狀看起來像是計算問題,但根本原因往往是數據飢餓。”與傳統企業應用不同,AI工作負載會放大小的基礎設施弱點。在傳統環境中可能被忽略的延遲尖峯、吞吐量阻塞或流量激增,都會對AI性能產生巨大影響。
因此,許多組織開始將目光投向GPU之外,聚焦於存儲到計算的邊界。
從緊耦合到松耦合的架構轉變
許多瓶頸可以追溯到AI出現之前的架構決策。歷史上,企業直接將應用連接到存儲環境。這種方法簡單、高效、易於管理。但在AI規模下,這種簡單性變成了負擔。存儲系統突然要處理遠超存儲本身的工作:終止加密連接、管理網絡流量、執行安全策略以及處理來自日益分佈式AI工作負載的海量請求。每個加密事務都會消耗CPU資源,每個連接都會產生開銷,每次流量激增都會給本為存儲和檢索數據而設計的系統帶來額外壓力。結果就是典型的架構問題:存儲平台忙於執行它們從未優化過的工作。
為了解決這一挑戰,許多組織正轉向松耦合架構。它們不在直接連接計算和存儲,而是在兩者之間插入一個應用交付控制器(ADC)。作為智能控制平面,ADC成為存儲的前門,處理TLS終止、證書管理、流量優化、策略執行以及協議感知的S3處理。通過將網絡和加密功能轉移到專門為這些工作負載設計的基礎設施中,存儲系統可以專注於它們最擅長的事情:服務數據。這種方法還創造了操作靈活性:存儲環境可以升級、擴展或遷移,而無需強制更改應用——基礎設施團隊常稱之為松耦合。
重新審視“線路中的凸起”
幾十年來,基礎設施團隊對數據路徑中的任何附加層都持懷疑態度。假設很簡單:每個額外組件都增加延遲。AI基礎設施正在挑戰這一假設。SecureIQLab進行的獨立測試評估了在企業對象存儲前放置ADC的影響。結果顯示,與直接節點訪問相比,吞吐量沒有明顯損失,性能通常保持在狹窄的方差範圍內。更有趣的是,測試發現,在真實網絡條件下,當流量通過控制層管理時,吞吐量往往表現更好。原因很簡單:ADC不僅僅是轉發流量,它還在優化連接、管理協議、卸載加密處理並智能地引導請求。換句話説,它在幫助數據路徑更高效地運行。
當數據交付成為業務問題
當AI系統遇到困難時,答案並不總是更多的GPU,有時是更好的工程。一家大型全球金融服務機構在準備通過Kubernetes託管的工作負載和S3對象存儲擴展AI基礎設施時,其現有環境依賴共享虛擬負載均衡,隨着數據量增加,性能和可靠性都面臨挑戰。該組織沒有投資額外計算容量,而是專注於存儲到計算的邊界。它在對象存儲環境前部署了專用物理ADC基礎設施,創建了流量管理和S3優化的集中控制點。結果令人矚目:對象創建、讀取和刪除操作性能提升了至少五倍,在某些情況下刪除延遲改善了超過一個數量級。同樣重要的是,新架構與直接節點訪問相比沒有引入性能退化。
韌性的三個維度
性能只是故事的一部分。據Menger介紹,組織應通過三個維度評估其AI數據交付架構:可達性、策略和交付。可達性確保AI工作負載始終能夠訪問健康的存儲資源。如果存儲集羣降級或不可用,流量可以自動重定向而不會中斷AI應用。策略保護組織免受自身造成的干擾。AI工作負載可能產生“驚羣”場景、重試風暴和其他能夠壓垮存儲環境的流量異常。一個智能控制層可以塑造流量、執行策略並維護一致的安全態勢而不犧牲性能。交付側重於連續性:存儲節點會故障,硬件會升級,軟件會打補丁。一個有韌性的架構將AI客户端與這種動盪隔離,即使在後台基礎設施變化時也能保持不間斷的數據流。這三個能力共同幫助確保GPU即使在底層環境承受壓力時也能保持生產力。
從ADC到ADSP的演進
隨着AI環境變得更大、更分佈式,組織發現流量管理已不足夠。它們還需要可觀測性、安全、策略執行和操作一致性。這一轉變推動了對應用交付與安全平台(ADSP)的興趣,該平台將應用交付、流量工程、安全控制和可見性整合到統一平台中。Shah説:“AI打破了將交付和安全作為獨立問題解決的模式。當數據在混合多雲環境中持續在存儲、計算和應用之間移動時,你需要一個同時交付和保護這些流量的平台。”這一趨勢反映了20年前Web基礎設施的演變。從簡單的負載均衡開始,最終演變為能夠管理日益複雜環境的成熟應用交付平台。AI基礎設施正沿着類似路徑發展。隨着企業在混合雲、多雲、邊緣和本地部署間擴展,集成控制平面變得愈發有價值。
基礎設施的使命
過去兩年,AI行業專注於計算。但企業AI越來越成為數據交付問題。如果數據無法在存儲和計算之間高效移動,模型和GPU就無法創造價值。對於面臨展示AI投資回報率壓力的CIO來説,下一個突破可能來自購買更多GPU,而是讓你已經擁有的GPU保持“飽食”。