表示条件扩散模型：用于引导训练数据生成
该研究提出表示条件扩散模型，利用DINOv2、DINOv3和CLIP的表示作为条件生成合成图像数据，在ImageNet100上以+10.76 p.p.的top-1准确率显著优于类条件生成。通过扩大合成数据集，甚至能超越真实数据训练的模型（+2.0 p.p.）。此外，该方法在数据增强和样本过滤方面也表现出色，为大规模视觉学习任务提供了一种有前景的替代或补充真实数据集的方案。
文章情报
要点
- 表示条件扩散模型优于类条件生成，在ImageNet100上提升10.76个百分点。
- 扩大的合成数据集可超越真实数据训练的模型，准确率提高2.0个百分点。
- 生成的图像可用于数据增强，优于传统方法，且条件空间可过滤样本以提升训练价值。
- 该方法有潜力补充或替代真实世界数据集，缓解数据稀缺瓶颈。
为什么重要
这条新闻值得关注，因为表示条件扩散模型优于类条件生成，在ImageNet100上提升10.76个百分点。
技术影响
可能影响模型选型、推理成本、产品能力和评测基准。
数据可用性仍然是深度学习应用中的一个关键瓶颈。大规模数据集的收集、整理和标注成本高昂，限制了监督学习的可扩展性。最近，一篇由Nithesh Chandher Karthikeyan等人提交至arXiv的论文（编号2605.27495）提出了一种利用表示条件扩散模型生成合成训练数据的新方法，旨在解决这一难题。
研究人员采用潜在扩散模型，并基于DINOv2、DINOv3和CLIP等预训练模型学到的表示作为条件，生成高质量的合成图像。实验表明，这种表示条件生成的图像在分类任务中显著优于传统的类条件生成方法。在ImageNet100数据集上，表示条件生成实现了+10.76个百分点的top-1准确率提升，这得益于更好的样本质量和模式覆盖。更令人瞩目的是，通过扩大合成数据集的规模，训练出的分类器甚至超越了使用真实数据训练的分类器，准确率高出2.0个百分点。
除了直接用于训练，该研究还展示了合成图像在数据增强方面的应用。使用生成图像进行增强的效果优于经典的数据增强方法。此外，条件表示空间还可用于样本过滤，进一步筛选出对训练更有价值的样本，从而提升整体训练效果。
这些发现表明，表示条件扩散模型为大规模视觉学习任务提供了一条有前景的路径。它们不仅可以增强或补充真实数据集，还有潜力在特定情况下完全替代真实数据，从而缓解数据收集和标注的瓶颈。该工作为利用生成模型解决数据稀缺问题开辟了新的方向。