Sakana AI 提出 DiffusionBlocks：一種將殘差網絡轉換為可獨立訓練去噪模塊的塊狀訓練框架

要點

• DiffusionBlocks通過將網絡劃分為B個獨立訓練的塊，將訓練內存減少B倍，適用於多種架構。
• 核心創新在於將殘差連接視為反向擴散過程的歐拉離散化步驟，從而為每個塊提供原則性的局部訓練目標。
• 實驗表明，在ViT、DiT、自迴歸和循環深度Transformer上，DiffusionBlocks實現了與端到端訓練相當的性能，內存和計算效率顯著提升。
• 對於擴散模型，推理時每個去噪步驟僅激活一個塊，進一步降低了計算成本。