本文にスキップ
AI News HubLIVE
サイト内リライト1 分で読了

知識転送のスケーリング則:3D医用画像事前学習のデータ割り当て最適化

記事の要約

本論文は3D医用画像における知識転送のスケーリング則を研究し、モダリティ間の非対称な転送を明らかにし、最大58%の性能向上をもたらすデータ割り当て最適化を提案する。

ソースarXiv Computer Vision著者: Ho Hin Lee, Dongna Du, Chu Wang, Yuankai Huo, Shi Gu, James C. Gee, Yifan Wu
知識転送のスケーリング則:3D医用画像事前学習のデータ割り当て最適化
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

視覚基盤モデルが2D画像から3Dボリューム領域へと拡張されるにつれ、CT、MRI、PETなどの異なるモダリティを統合した3D医用画像の事前学習が注目を集めている。しかし、現在のデータ混合戦略は主にヒューリスティックに依存しており、理論的な指針が不足している。本研究では、医用画像の各ドメインが事前学習において異なる速度でスケールし、ドメイン間の知識転送が強い非対称性を持つことを発見した。すなわち、あるドメインでの訓練が別のドメインの性能を大幅に向上させる一方、逆方向の転送効果ははるかに弱い。興味深いことに、マスクド・オートエンコーダ(MAE)の再構成損失とクロスドメイン転送の両方が、ドメイン固有の挙動を示す予測可能な冪乗則に従う。

これらの発見に基づき、著者らはデータ割り当てをスケーリング則最適化問題として定式化した。得られた割り当ては、解釈可能な「ハブ・アンド・アイランド」構造を明らかにする:転送性の高いドメインはハブとなり多くの他ドメインに利益をもたらすため戦略的にデータを割り当てる必要があり、孤立したドメインは島のように直接的な投資が必要である。実験では、転送認識型の割り当てがデータ比例サンプリングを最大58%上回り、未見の計算予算にも良好に汎化する(相関係数r=0.989)。疾患分類や臓器/病変セグメンテーションといった下流タスクでの検証により、転送認識混合から得られた事前学習表現が、従来の混合方法よりも強力であることが確認された。

この研究は、マルチモーダルな医用画像基盤モデルの訓練に理論的基盤を提供し、3D医用画像AIの臨床応用を促進するものと期待される。本論文はHo Hin Leeら7名の著者により執筆され、2026年5月7日にarXivに投稿された。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • 医用画像ドメインは事前学習中に異なる速度でスケールし、非対称な転送を示す。
  • MAE損失とクロスドメイン転送は予測可能な冪乗則に従う。
  • データ割り当てをスケーリング則最適化問題として定式化し、ハブ・アンド・アイランド構造を発見。
  • 転送認識型割り当てはデータ比例サンプリングを最大58%上回る。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。