隨著視覺基礎模型從二維影像向三維體素域擴充套件,三維醫學影像(如CT、MRI、PET)的統一預訓練正成為研究熱點。然而,不同成像模態的資料混合策略目前仍主要依賴經驗,缺乏理論指導。本文系統研究了不同醫學影像域在預訓練中的縮放行為與知識遷移規律。實驗表明,各成像模態的縮放速率存在顯著差異,域間的知識遷移表現出強烈的非對稱性——在某些方向上,用一個域的資料訓練可以大幅提升另一域的效能,而反向遷移的效果則弱得多。有趣的是,掩碼自編碼器(MAE)的重建損失與跨域遷移效能均遵循可預測的冪律趨勢,且不同域的行為各異。
基於這些發現,作者將多域資料分配問題形式化為一個基於縮放定律的最佳化問題。求解得到的分配方案揭示了一種可解釋的“樞紐-孤島”結構:某些遷移性強的域自動成為樞紐,能夠有效惠及多個其他域,因此需要優先分配更多資料;而孤立域則像孤島,效能提升主要依賴自身資料,需要直接投入。實驗結果顯示,相比簡單的按資料比例取樣,這種遷移感知的分配方法在後續任務上效能最高可提升58%,且能很好地泛化到未見的計算預算(相關係數r=0.989)。
在疾病分類與器官/病變分割等下游臨床任務上的驗證進一步表明,基於遷移感知混合策略得到的預訓練表示明顯優於傳統混合方式。這項工作為多模態醫學影像基礎模型的訓練提供了堅實的理論基礎和實用指導,有望推動三維醫學影像AI在臨床中的實際應用。該論文由Ho Hin Lee等七位作者完成,於2026年5月7日提交至arXiv。