跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

知識遷移縮放定律:優化3D醫學影像預訓練數據分配

文章摘要

本文研究了3D醫學影像中不同成像模態之間的知識遷移縮放定律,發現遷移具有強不對稱性,並提出了基於縮放定律的數據分配優化方法,形成樞紐-孤島結構,遷移感知分配優於數據比例採樣,提升幅度達58%。

來源arXiv Computer Vision作者: Ho Hin Lee, Dongna Du, Chu Wang, Yuankai Huo, Shi Gu, James C. Gee, Yifan Wu
知識遷移縮放定律:優化3D醫學影像預訓練數據分配
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

隨着視覺基礎模型從二維圖像向三維體素域擴展,三維醫學影像(如CT、MRI、PET)的統一預訓練正成為研究熱點。然而,不同成像模態的數據混合策略目前仍主要依賴經驗,缺乏理論指導。本文系統研究了不同醫學影像域在預訓練中的縮放行為與知識遷移規律。實驗表明,各成像模態的縮放速率存在顯著差異,域間的知識遷移表現出強烈的非對稱性——在某些方向上,用一個域的數據訓練可以大幅提升另一域的性能,而反向遷移的效果則弱得多。有趣的是,掩碼自編碼器(MAE)的重建損失與跨域遷移性能均遵循可預測的冪律趨勢,且不同域的行為各異。

基於這些發現,作者將多域數據分配問題形式化為一個基於縮放定律的優化問題。求解得到的分配方案揭示了一種可解釋的“樞紐-孤島”結構:某些遷移性強的域自動成為樞紐,能夠有效惠及多個其他域,因此需要優先分配更多數據;而孤立域則像孤島,性能提升主要依賴自身數據,需要直接投入。實驗結果顯示,相比簡單的按數據比例採樣,這種遷移感知的分配方法在後續任務上性能最高可提升58%,且能很好地泛化到未見的計算預算(相關係數r=0.989)。

在疾病分類與器官/病變分割等下游臨牀任務上的驗證進一步表明,基於遷移感知混合策略得到的預訓練表示明顯優於傳統混合方式。這項工作為多模態醫學影像基礎模型的訓練提供了堅實的理論基礎和實用指導,有望推動三維醫學影像AI在臨牀中的實際應用。該論文由Ho Hin Lee等七位作者完成,於2026年5月7日提交至arXiv。

展開要點與分析

文章情報

工程師進階

要點

  • 不同醫學影像模態在預訓練中縮放速率各異,知識遷移具有強不對稱性。
  • 發現MAE重建損失和跨域遷移遵循可預測的冪律趨勢。
  • 提出基於縮放定律的數據分配優化,揭示樞紐-孤島結構。
  • 遷移感知分配在疾病分類和分割任務上提供更強的預訓練表示。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。