您可能錯過的RAISE Summit三大洞察

代理推理正在重塑AI基礎設施的重心。原本聚焦於擴充套件訓練的競賽，如今已轉向擴充套件上下文視窗、記憶增強推理以及持續為GPU供給資料的新階段。隨著企業深入採用代理系統，儲存已躍升為AI效能的關鍵路徑。

RAISE峰會上，行業領袖揭示了三大關鍵洞察：

洞察一：代理推理推動AI堆疊專業化。 AMD正在透過最佳化CPU、GPU、自適應計算和網路來應對多樣化的AI工作負載，而非僅關注單個晶片。其ROCm軟體堆疊為資料中心叢集、邊緣部署和AI PC提供一致層。Tensordyne透過其Napier推理晶片採用帕累託對數數字系統，用加法代替乘法，大幅降低功耗。d-Matrix則透過Corsair加速器與Nvidia Hopper和Blackwell GPU的配對，實現異構推理，滿足計算密集型預填充和延遲敏感型令牌生成的不同需求。

洞察二：儲存成為AI記憶體的主動擴充套件。 在代理推理中，單個提示擴充套件為長時間會話，上下文資料量可能超過GPU記憶體。超大規模雲提供商正在用高容量固態儲存替換傳統基礎設施，並使其靠近加速器。Solidigm的AI中央實驗室在實際硬體和軟體上執行真實負載，驗證儲存效能。高密度固態硬碟配置透過減少機架空間來降低儲存功耗。

洞察三：資本和資料主權融入AI基礎設施。 代理推理專案不僅需要電力和GPU，融資瓶頸也可能導致停滯。Argentum AI採用需求優先模式，先獲取客戶再承諾資本，利用合同收入支援建設。資料主權正從合規問題轉變為架構問題，涉及領土、運營、堆疊、法律和單位經濟。知識圖譜提供了另一種控制方式，允許確定性決策與機率模型並存，為企業提供一致的業務規則和可解釋性。

這些洞察表明，代理推理正在推動從純計算到專業化架構、記憶體和儲存、資本部署以及企業資料主權的全面擴充套件。儲存不再是被動元件，而是成為系統記憶體的延伸；資本和資料主權成為基礎設施決策的核心部分。

（以上內容基於RAISE Summit的報道編譯，部分內容引自SiliconANGLE。）