跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

超級計算研究人員記錄 AI 硬件的演進

文章摘要

MIT 林肯實驗室超級計算中心自 2018 年起持續開展林肯 AI 計算調查(LAICS),追蹤商用 AI 加速器,比較峯值性能與峯值功耗,幫助政府資助方和實驗室研究人員把握快速變化的硬件格局。

來源MIT News AI作者: Haley Wahl | MIT Lincoln Laboratory
超級計算研究人員記錄 AI 硬件的演進
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

隨着人工智能改變產業與國家安全,掌握最新硬件能力對維持技術優勢十分關鍵。AI 加速器是專門為神經網絡、深度學習和機器學習等任務提速的系統,近十年來一直是研發熱點。自 2018 年起,MIT 林肯實驗室超級計算中心(LLSC)的一個團隊開始開展林肯 AI 計算調查(Lincoln AI Computing Survey,簡稱 LAICS,讀作“lace”)。如今六篇論文之後,LAICS 仍在持續彙總市面上的商用 AI 加速器,並比較它們的峯值性能和峯值功耗。

LLSC 的 Albert Reuther 表示,大約八年前,他們看到研究論文中描述的研究型 AI 加速器以及廠商宣佈的商用加速器數量急劇上升,實驗室的政府資助方也開始詢問相關問題。這促使團隊啓動這項調查。LLSC 負責運行和優化實驗室數千名研究人員使用的高性能計算系統。

雖然 AI 加速器常用於機器學習,但它們也能支持其他並行應用,例如分子功能建模和流體動力學模擬加速,這些過程計算成本很高。

AI 加速器有多種形態:中央處理器(CPU)、圖形處理器(GPU)、專用集成電路(ASIC)、現場可編程門陣列(FPGA)和數據流加速器。不同類型的加速器能力略有差異。CPU 適合通用計算,而 ASIC 只能執行非常特定的任務。數據流加速器、FPGA 和 GPU 更靈活,可針對多種工作負載進行配置。由於設計方式不同,各類加速器的效率和性能也各不相同。LAICS 的目標是調查當前市場上的技術並進行比較,以便為特定需求找到最合適的加速器。

該調查由 Reuther 領導,團隊成員包括 LLSC 的 Michael Jones、Peter Michaleas、Jeremy Kepner 和 Vijay Gadepally。團隊還與林肯實驗室多個部門的研究人員合作,包括先進技術部以及情報、監視與偵察和戰術系統部,以瞭解加速器如何支持其任務的研發工作。

系列論文的第一篇研究了 57 款加速器,而最新一篇考察了 120 多款。團隊用於比較加速器的主要指標是峯值性能和功耗,然後按芯片、板卡或系統進行分類。論文中的所有數據都來自公開來源,這可能具有挑戰性,因為一些公司傾向於不公開其性能和功耗數據。為了跟上領域最新進展,Reuther 每天進行新聞和引用檢索,彙總新的技術媒體報道、公司公告和行業演示。

Reuther 説,每年都有另外 5 到 10 家初創公司獲得融資並對外宣佈,然後發佈新的 AI 加速器,這繼續令他感到驚訝。人們可能認為這一領域已經足夠飽和,但隨後又會出現一批創新加速器。

除了總結當前加速器的性能與峯值功耗,每篇論文還會探討該領域的一個新方面。例如,2022 年發表的論文調查了性能提升的來源,發現它們來自更小、更密集的晶體管設計,以及使用更低的數值精度(即計算更少的有效數字)。最新論文考察了可用的不同架構選擇,分析增加某些組件(例如每個處理器更多核心或並行性能)會如何改變系統。

Reuther 計劃在可預見的未來繼續這項調查。他指出,僅在過去幾個月裏,就有六家初創公司宣佈了他們的首款 AI 加速器。

Reuther 表示,AI 及其運行的硬件是非常熱門的話題,林肯實驗室作為無偏的技術顧問,在選擇和推進正確技術方面發揮重要作用。他們的 AI 加速器調查幫助許多資助方和政府同事更好地理解 AI 加速器格局,並在相關研究和採購決策上做出更佳選擇。這項調查對於確定 LLSC 未來系統採購應考慮哪些 GPU 也很有價值,因此它不僅使資助方和任務項目受益,也使所有 LLSC 用户受益。

完整的系列論文和配套數據集可在此處找到。

展開要點與分析

文章情報

工程師進階

要點

  • LAICS 於 2018 年啓動,首篇論文涵蓋 57 款加速器,最新論文已超過 120 款。
  • 調查比較峯值性能與峯值功耗,並按芯片、板卡或系統分類,數據僅來自公開來源。
  • 每篇論文都會加入新的分析角度,例如性能提升來源或架構取捨。
  • LLSC 的 Albert Reuther 計劃繼續開展調查,因為仍有初創公司不斷髮布新的 AI 加速器。

技術影響

可能影響 GPU、推理集羣、算力成本和供應鏈規劃。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。

超級計算研究人員記錄 AI 硬件的演進 | AI News Hub