DuSPiT: デュアルブランチ・サブパッチ・ピクセル拡散Transformer
DuSPiTは新しいピクセル空間拡散Transformerで、コンパクトなベースブランチ(大域的推論用)と高容量のピクセルブランチ(局所的詳細用、サブパッチグループに編成)のデュアルブランチアーキテクチャを採用し、クロスアテンションで接続。従来手法よりも豊かな画像詳細と優れた品質効率トレードオフを実現。
近年、拡散Transformerは画像生成において顕著な成果を上げていますが、ほとんどのモデルは圧縮された潜在空間で動作するため、情報損失が発生します。ピクセル空間での拡散はこの問題を回避できますが、既存の手法では各生画像パッチを単一のトークンにマッピングするため、単一の表現で大域的な通信と細かい詳細の両方を処理する必要があります。この制限に対処するため、研究者らは新しいアーキテクチャであるDuSPiT(デュアルブランチ・サブパッチ・ピクセルTransformer)を提案しました。DuSPiTは、大域的な構造推論と局所的な外観モデリングを分離します。このモデルは、効率的な大域推論のためのコンパクトなベースブランチと、詳細な外観を保持するための並列な高容量ピクセルブランチ(サブパッチグループに編成)で構成され、2つのブランチはクロスアテンションを介して相互作用します。実験結果によると、DuSPiTはより豊かなディテールと強い微細構造を持つ画像を生成し、品質と効率のトレードオフにおいて従来のピクセル空間拡散Transformerよりも優れています。関連論文はarXiv(ID: 2607.18510)に提出されており、著者はYunpeng Bai氏らです。この研究は、ピクセルレベルの画像生成に新たな道を開き、高品質画像合成における拡散モデルのさらなる発展に貢献すると期待されます。DuSPiTは、グローバルとローカルの情報を分離することで、画像全体の構造と高周波のディテールを同時に捉えることを可能にし、今後のビデオ生成や他のビジョンタスクへの拡張が期待されます。