Tenstorrent發佈Galaxy AI平台，注重規模與效率

Tenstorrent於2026年4月28日正式發佈其Galaxy Blackhole系統，由CEO Jim Keller在發佈會上詳細闡述了公司的關鍵技術理念。該系統基於Tenstorrent自研的Blackhole加速器，採用RISC-V微架構，旨在提供高性能、高效率的AI推理能力。與許多競爭對手單純追求峯值算力不同，Tenstorrent強調AI基礎設施的性能不僅僅取決於峯值計算吞吐量，更依賴於數據在計算引擎、內存和網絡之間的高效流動。Galaxy系統集成了32顆Blackhole ASIC，可提供高達23 PFLOPS的Block FP8 AI算力，但公司更關注在真實工作負載下的持續推理性能。系統配備了6.2 GB的片上SRAM，帶寬達2.9 PB/s，以及1 TB的GDDR6內存，總帶寬約16 TB/s，旨在減少數據移動延遲，應對大模型推理中的內存瓶頸。在網絡方面，Galaxy系統支持多達56個800GbE以太網端口，採用基於以太網的分佈式架構，而非像NVIDIA NVLink那樣的專有互連技術。這種設計強調了靈活性和標準化，以便於AI集羣的擴展。在性能演示中，Tenstorrent展示了實時AI視頻生成能力，聲稱在Wan 2.2和Grok Imagine Video等模型上，生成速度顯著快於NVIDIA GPU方案。然而，公司也承認，在競爭激烈的AI加速器市場中，NVIDIA仍佔據主導地位，AMD和其他新興廠商也在不斷擴張。Tenstorrent的策略是通過平衡計算、存儲和互聯來提供可預測的性能，同時控制功耗和成本。該公司的成功將依賴於嚴格的執行、大規模性能的驗證、軟件生態的建設以及客户採納的推動。