Sakana AI 提出 DiffusionBlocks：一种将残差网络转换为可独立训练去噪模块的块状训练框架

要点

• DiffusionBlocks通过将网络划分为B个独立训练的块，将训练内存减少B倍，适用于多种架构。
• 核心创新在于将残差连接视为反向扩散过程的欧拉离散化步骤，从而为每个块提供原则性的局部训练目标。
• 实验表明，在ViT、DiT、自回归和循环深度Transformer上，DiffusionBlocks实现了与端到端训练相当的性能，内存和计算效率显著提升。
• 对于扩散模型，推理时每个去噪步骤仅激活一个块，进一步降低了计算成本。