跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

知识迁移缩放定律:优化3D医学影像预训练数据分配

文章摘要

本文研究了3D医学影像中不同成像模态之间的知识迁移缩放定律,发现迁移具有强不对称性,并提出了基于缩放定律的数据分配优化方法,形成枢纽-孤岛结构,迁移感知分配优于数据比例采样,提升幅度达58%。

来源arXiv Computer Vision作者: Ho Hin Lee, Dongna Du, Chu Wang, Yuankai Huo, Shi Gu, James C. Gee, Yifan Wu
知识迁移缩放定律:优化3D医学影像预训练数据分配
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

随着视觉基础模型从二维图像向三维体素域扩展,三维医学影像(如CT、MRI、PET)的统一预训练正成为研究热点。然而,不同成像模态的数据混合策略目前仍主要依赖经验,缺乏理论指导。本文系统研究了不同医学影像域在预训练中的缩放行为与知识迁移规律。实验表明,各成像模态的缩放速率存在显著差异,域间的知识迁移表现出强烈的非对称性——在某些方向上,用一个域的数据训练可以大幅提升另一域的性能,而反向迁移的效果则弱得多。有趣的是,掩码自编码器(MAE)的重建损失与跨域迁移性能均遵循可预测的幂律趋势,且不同域的行为各异。

基于这些发现,作者将多域数据分配问题形式化为一个基于缩放定律的优化问题。求解得到的分配方案揭示了一种可解释的“枢纽-孤岛”结构:某些迁移性强的域自动成为枢纽,能够有效惠及多个其他域,因此需要优先分配更多数据;而孤立域则像孤岛,性能提升主要依赖自身数据,需要直接投入。实验结果显示,相比简单的按数据比例采样,这种迁移感知的分配方法在后续任务上性能最高可提升58%,且能很好地泛化到未见的计算预算(相关系数r=0.989)。

在疾病分类与器官/病变分割等下游临床任务上的验证进一步表明,基于迁移感知混合策略得到的预训练表示明显优于传统混合方式。这项工作为多模态医学影像基础模型的训练提供了坚实的理论基础和实用指导,有望推动三维医学影像AI在临床中的实际应用。该论文由Ho Hin Lee等七位作者完成,于2026年5月7日提交至arXiv。

展开要点与分析

文章情报

工程师进阶

要点

  • 不同医学影像模态在预训练中缩放速率各异,知识迁移具有强不对称性。
  • 发现MAE重建损失和跨域迁移遵循可预测的幂律趋势。
  • 提出基于缩放定律的数据分配优化,揭示枢纽-孤岛结构。
  • 迁移感知分配在疾病分类和分割任务上提供更强的预训练表示。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。