視覚基盤モデルが2D画像から3Dボリューム領域へと拡張されるにつれ、CT、MRI、PETなどの異なるモダリティを統合した3D医用画像の事前学習が注目を集めている。しかし、現在のデータ混合戦略は主にヒューリスティックに依存しており、理論的な指針が不足している。本研究では、医用画像の各ドメインが事前学習において異なる速度でスケールし、ドメイン間の知識転送が強い非対称性を持つことを発見した。すなわち、あるドメインでの訓練が別のドメインの性能を大幅に向上させる一方、逆方向の転送効果ははるかに弱い。興味深いことに、マスクド・オートエンコーダ(MAE)の再構成損失とクロスドメイン転送の両方が、ドメイン固有の挙動を示す予測可能な冪乗則に従う。
これらの発見に基づき、著者らはデータ割り当てをスケーリング則最適化問題として定式化した。得られた割り当ては、解釈可能な「ハブ・アンド・アイランド」構造を明らかにする:転送性の高いドメインはハブとなり多くの他ドメインに利益をもたらすため戦略的にデータを割り当てる必要があり、孤立したドメインは島のように直接的な投資が必要である。実験では、転送認識型の割り当てがデータ比例サンプリングを最大58%上回り、未見の計算予算にも良好に汎化する(相関係数r=0.989)。疾患分類や臓器/病変セグメンテーションといった下流タスクでの検証により、転送認識混合から得られた事前学習表現が、従来の混合方法よりも強力であることが確認された。
この研究は、マルチモーダルな医用画像基盤モデルの訓練に理論的基盤を提供し、3D医用画像AIの臨床応用を促進するものと期待される。本論文はHo Hin Leeら7名の著者により執筆され、2026年5月7日にarXivに投稿された。