Tenstorrent釋出Galaxy AI平臺,注重規模與效率
Tenstorrent今日釋出Galaxy Blackhole系統,基於RISC-V架構的Blackhole加速器,提供23 PFLOPS FP8算力,強調持續推理效能、高記憶體頻寬和可擴充套件網路,定位為系統級AI平臺。
Tenstorrent於2026年4月28日正式釋出其Galaxy Blackhole系統,由CEO Jim Keller在釋出會上詳細闡述了公司的關鍵技術理念。該系統基於Tenstorrent自研的Blackhole加速器,採用RISC-V微架構,旨在提供高效能、高效率的AI推理能力。與許多競爭對手單純追求峰值算力不同,Tenstorrent強調AI基礎設施的效能不僅僅取決於峰值計算吞吐量,更依賴於資料在計算引擎、記憶體和網路之間的高效流動。Galaxy系統整合了32顆Blackhole ASIC,可提供高達23 PFLOPS的Block FP8 AI算力,但公司更關注在真實工作負載下的持續推理效能。系統配備了6.2 GB的片上SRAM,頻寬達2.9 PB/s,以及1 TB的GDDR6記憶體,總頻寬約16 TB/s,旨在減少資料移動延遲,應對大模型推理中的記憶體瓶頸。在網路方面,Galaxy系統支援多達56個800GbE乙太網埠,採用基於乙太網的分散式架構,而非像NVIDIA NVLink那樣的專有互連技術。這種設計強調了靈活性和標準化,以便於AI叢集的擴充套件。在效能演示中,Tenstorrent展示了即時AI影片生成能力,聲稱在Wan 2.2和Grok Imagine Video等模型上,生成速度顯著快於NVIDIA GPU方案。然而,公司也承認,在競爭激烈的AI加速器市場中,NVIDIA仍佔據主導地位,AMD和其他新興廠商也在不斷擴張。Tenstorrent的策略是透過平衡計算、儲存和互聯來提供可預測的效能,同時控制功耗和成本。該公司的成功將依賴於嚴格的執行、大規模效能的驗證、軟體生態的建設以及客戶採納的推動。