跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

探索双元元学习以增强开放集场景下的域泛化

文章摘要

本文提出了一种名为MEDIC的新型元学习策略,通过同时考虑域间和类间的隐式梯度匹配,在开放集域泛化中实现了更优的决策边界平衡,有效解决了传统方法中正负样本不平衡导致的过拒绝问题,并在保持封闭集泛化能力的同时,在开放集场景下超越了现有方法。

来源arXiv Machine Learning作者: Xiran Wang, Jian Zhang, Lei Qi, Yang Gao, Yinghuan Shi
探索双元元学习以增强开放集场景下的域泛化
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

在机器学习领域,域泛化(Domain Generalization)是一个重要的研究方向,其目标是从多个源域学习一个模型,使其能够泛化到未见过的目标域。然而,现有方法往往忽略了源域和目标域之间标签不匹配的现实情况。例如,在自动驾驶场景中,训练数据可能包含晴天、雨天等不同域,但目标域可能包含雪天,且可能出现训练时未见过的新类别(如行人突然出现)。为此,开放集域泛化(Open Set Domain Generalization)被提出,旨在识别未见域中的未知类别。

一种简单且直观的方法是训练一对多(one-vs-all)分类器,即对每个类别训练一个二分类器,将其他所有类别视为负样本,并利用离群值检测方法识别未知类别。然而,这种方法存在一个严重缺陷:正样本数量远少于负样本,导致决策边界向正样本倾斜。这意味着模型会过度拒绝分布外数据,甚至将来自未见域中的已知类别也误判为未知,从而导致性能下降。

针对这一挑战,来自研究团队的Xiran Wang等人提出了一种新颖的元学习策略——双元元学习联合域-类匹配(Dualistic MEta-learning with joint DomaIn-Class matching,简称MEDIC)。MEDIC的核心思想是同时考虑跨域和跨类任务划分的隐式梯度匹配。具体而言,它在训练过程中构建两种类型的元任务:一种是基于域划分的任务,旨在让模型学习域不变的表示;另一种是基于类划分的任务,旨在让模型区分已知类别和未知类别。通过联合优化这两种任务的梯度,MEDIC能够找到在域和类之间都平衡的最优决策边界,从而避免传统方法因样本不平衡导致的偏差。

实验结果表明,MEDIC不仅在开放集场景下显著优于先前的方法,而且能够保持具有竞争力的封闭集泛化能力。这意味着MEDIC在识别未知类别的同时,不会牺牲对已知类别的识别准确率。该研究为处理现实世界中标签缺失和域迁移的复杂问题提供了新的思路。相关论文已发表于arXiv,代码和数据将随后公开,以推动该领域的进一步发展。

展开要点与分析

文章情报

工程师进阶

要点

  • 开放集域泛化旨在识别未见域中的未知类别,但简单的一对多分类器因样本不平衡导致决策边界偏移。
  • MEDIC策略通过双元元学习联合域-类匹配,同时优化域间和类间的梯度,找到平衡的决策边界。
  • 实验结果表明,MEDIC在开放集场景下优于先前方法,且不牺牲封闭集泛化性能。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。

探索双元元学习以增强开放集场景下的域泛化 | AI News Hub