mKernel：多GPU、多节点融合内核库，实现GPU驱动通信
加州大学伯克利分校UCCL团队发布mKernel，将节点内NVLink、节点间RDMA和密集计算融合到单个持久CUDA内核中，旨在减少AI工作负载中的通信开销。研究显示通信可占用前向传播43.6%和训练总时间32%的时间。mKernel提供五种融合内核，支持ConnectX-7和AWS EFA后端。
mKernel：多GPU、多节点融合内核库，实现GPU驱动通信
本文仅提供摘要
根据来源内容权限，本站仅提供编辑摘要、要点和原文链接。