AI News HubLIVE
站內改寫4 分鐘閱讀

人工智慧的真正瓶頸在於資料交付

企業大規模部署AI時,最大障礙往往是資料從儲存到計算的基礎設施,而非GPU等計算硬體。文章指出,許多組織誤以為效能問題需要更多計算資源,實則根源在於資料飢餓,即資料無法高效、安全、持續地在儲存與計算之間流動。透過引入應用交付控制器實現松耦合架構,以及關注可達性、策略和交付三個維度的韌性,可顯著提升GPU利用率和AI投資回報。

來源Hacker News AI作者: adithyaharish

隨著企業加速擴充套件人工智慧(AI)應用,一個關鍵挑戰正在浮出水面:真正制約AI效能和投資回報率的,可能不是昂貴的GPU或大型語言模型,而是資料從儲存到計算的基礎設施。

過去18個月,企業在GPU、LLM和AI工具上投入巨資,但如今焦點正從實驗轉向運營,ROI成為核心指標。2025年IDC Spotlight報告指出,組織正在從一次性的AI部署轉向可重複、可擴充套件的架構,以支援生產工作負載。隨著AI嵌入業務,效能、安全、可靠性和操作一致性變得與模型創新同等重要。

然而,資料在儲存和計算之間的移動正變得越來越複雜。AI環境日益分散式化,確保資料快速、安全、可靠地到達計算資源已成為關鍵基礎設施挑戰。這迫使CIO們面對一個棘手問題:如何將AI投資轉化為可衡量的業務價值?

當AI專案表現不佳時,許多技術領導者會認為需要更多計算能力。他們增加GPU、擴充套件叢集或尋找更好的模型。但據運營大規模AI環境的基礎設施團隊透露,問題往往出在其他地方。GPU並不缺乏計算能力,它們缺乏的是資料。昂貴的計算資源只有在其供給系統高效時才能發揮效用。如果資料無法在儲存和計算之間高效、安全、一致地移動,即使最強大的GPU叢集也會閒置。而空閒的GPU是資料中心最昂貴的資產之一。中斷成本也在上升。據Uptime Institute的年度中斷分析,超過一半的組織表示最近一次重大中斷損失超過10萬美元,五分之一報告損失超過100萬美元。

要理解AI專案為何停滯,需要重新思考傳統基礎設施模型。F5產品營銷高階副總裁Nirav Shah將現代AI基礎設施比作冰山。水面之上是高管們能看到的:LLM、AI應用、編排框架和日益昂貴的GPU叢集。這一可見層獲得了大部分關注和投資。水面以下是決定這些投資是否在生產中交付價值的基礎設施:儲存、網路、流量管理、安全控制以及負責在儲存和計算之間行動數據的系統。Shah說:“每個人都關注那10%的可見部分,但正是另外90%決定了這些投資是否真正有效。”

許多組織正是在這裡發現了真正的瓶頸。現代AI系統依賴於儲存在S3相容物件環境中的海量非結構化資料。訓練、微調、檢索增強生成(RAG)和推理工作負載都依賴儲存系統和GPU環境之間的持續資料流。當這條管道受限時,GPU利用率就會下降。F5解決方案架構師Mark Menger說:“症狀看起來像是計算問題,但根本原因往往是資料飢餓。”與傳統企業應用不同,AI工作負載會放大小的基礎設施弱點。在傳統環境中可能被忽略的延遲尖峰、吞吐量阻塞或流量激增,都會對AI效能產生巨大影響。

因此,許多組織開始將目光投向GPU之外,聚焦於儲存到計算的邊界。

從緊耦合到松耦合的架構轉變

許多瓶頸可以追溯到AI出現之前的架構決策。歷史上,企業直接將應用連線到儲存環境。這種方法簡單、高效、易於管理。但在AI規模下,這種簡單性變成了負擔。儲存系統突然要處理遠超儲存本身的工作:終止加密連線、管理網路流量、執行安全策略以及處理來自日益分散式AI工作負載的海量請求。每個加密事務都會消耗CPU資源,每個連線都會產生開銷,每次流量激增都會給本為儲存和檢索資料而設計的系統帶來額外壓力。結果就是典型的架構問題:儲存平臺忙於執行它們從未最佳化過的工作。

為了解決這一挑戰,許多組織正轉向松耦合架構。它們不在直接連線計算和儲存,而是在兩者之間插入一個應用交付控制器(ADC)。作為智慧控制平面,ADC成為儲存的前門,處理TLS終止、證書管理、流量最佳化、策略執行以及協議感知的S3處理。透過將網路和加密功能轉移到專門為這些工作負載設計的基礎設施中,儲存系統可以專注於它們最擅長的事情:服務資料。這種方法還創造了操作靈活性:儲存環境可以升級、擴充套件或遷移,而無需強制更改應用——基礎設施團隊常稱之為松耦合。

重新審視“線路中的凸起”

幾十年來,基礎設施團隊對資料路徑中的任何附加層都持懷疑態度。假設很簡單:每個額外元件都增加延遲。AI基礎設施正在挑戰這一假設。SecureIQLab進行的獨立測試評估了在企業物件儲存前放置ADC的影響。結果顯示,與直接節點訪問相比,吞吐量沒有明顯損失,效能通常保持在狹窄的方差範圍內。更有趣的是,測試發現,在真實網路條件下,當流量透過控制層管理時,吞吐量往往表現更好。原因很簡單:ADC不僅僅是轉發流量,它還在最佳化連線、管理協議、解除安裝加密處理並智慧地引導請求。換句話說,它在幫助資料路徑更高效地執行。

當資料交付成為業務問題

當AI系統遇到困難時,答案並不總是更多的GPU,有時是更好的工程。一家大型全球金融服務機構在準備透過Kubernetes託管的工作負載和S3物件儲存擴充套件AI基礎設施時,其現有環境依賴共享虛擬負載均衡,隨著資料量增加,效能和可靠性都面臨挑戰。該組織沒有投資額外計算容量,而是專注於儲存到計算的邊界。它在物件儲存環境前部署了專用物理ADC基礎設施,建立了流量管理和S3最佳化的集中控制點。結果令人矚目:物件建立、讀取和刪除操作效能提升了至少五倍,在某些情況下刪除延遲改善了超過一個數量級。同樣重要的是,新架構與直接節點訪問相比沒有引入效能退化。

韌性的三個維度

效能只是故事的一部分。據Menger介紹,組織應透過三個維度評估其AI資料交付架構:可達性、策略和交付。可達性確保AI工作負載始終能夠訪問健康的儲存資源。如果儲存叢集降級或不可用,流量可以自動重定向而不會中斷AI應用。策略保護組織免受自身造成的干擾。AI工作負載可能產生“驚群”場景、重試風暴和其他能夠壓垮儲存環境的流量異常。一個智慧控制層可以塑造流量、執行策略並維護一致的安全態勢而不犧牲效能。交付側重於連續性:儲存節點會故障,硬體會升級,軟體會打補丁。一個有韌性的架構將AI客戶端與這種動盪隔離,即使在後臺基礎設施變化時也能保持不間斷的資料流。這三個能力共同幫助確保GPU即使在底層環境承受壓力時也能保持生產力。

從ADC到ADSP的演進

隨著AI環境變得更大、更分散式,組織發現流量管理已不足夠。它們還需要可觀測性、安全、策略執行和操作一致性。這一轉變推動了對應用交付與安全平臺(ADSP)的興趣,該平臺將應用交付、流量工程、安全控制和可見性整合到統一平臺中。Shah說:“AI打破了將交付和安全作為獨立問題解決的模式。當資料在混合多雲環境中持續在儲存、計算和應用之間移動時,你需要一個同時交付和保護這些流量的平臺。”這一趨勢反映了20年前Web基礎設施的演變。從簡單的負載均衡開始,最終演變為能夠管理日益複雜環境的成熟應用交付平臺。AI基礎設施正沿著類似路徑發展。隨著企業在混合雲、多雲、邊緣和本地部署間擴充套件,整合控制平面變得愈發有價值。

基礎設施的使命

過去兩年,AI行業專注於計算。但企業AI越來越成為資料交付問題。如果資料無法在儲存和計算之間高效移動,模型和GPU就無法創造價值。對於面臨展示AI投資回報率壓力的CIO來說,下一個突破可能來自購買更多GPU,而是讓你已經擁有的GPU保持“飽食”。