MoonMath AI、AMD MI300X向けHIPアテンションカーネルをオープンソース公開 – あらゆる形状と丸めモードでAITER v3を上回る

MoonMath AIチームは、AMD MI300X GPU向けのbf16フォワードアテンションカーネルをリリースしました。HIPで記述され、MITライセンスでオープンソース化されています。単一命令アセンブリラッパーと8ウェーブパイプラインなどの革新的技術により、テストしたすべての形状と丸めモードでAMDの最適化カーネルAITER v3を凌駕し、幾何平均で1.08倍から1.18倍の高速化を達成。主要な高速化はメモリ配置（KをLDS、VをL1、Qとアキュムレータをレジスタに配置）によるものです。また、実際のSGLang PRに統合され、Wan2.1ビデオ拡散モデルのエンドツーエンド性能を品質低下なしで1.23倍向上させました。