面向机器学习系统的现代GPU编程
本文介绍了一本关于现代GPU编程的综合性指南,面向机器学习系统,涵盖GPU硬件架构、编程模型以及使用TIRx DSL逐步优化关键内核(如GEMM和FlashAttention)的方法。内容基于卡内基梅隆大学的课程,以Blackwell GPU为目标。
面向机器学习系统的现代GPU编程
本文仅提供摘要
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。
本文介绍了一本关于现代GPU编程的综合性指南,面向机器学习系统,涵盖GPU硬件架构、编程模型以及使用TIRx DSL逐步优化关键内核(如GEMM和FlashAttention)的方法。内容基于卡内基梅隆大学的课程,以Blackwell GPU为目标。
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。