跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

面向部分標註的多任務面部情感識別的共享潛變量

文章摘要

提出一種共享潛變量方法,通過變分瓶頸在部分標註的多任務面部情感識別中實現跨任務信號共享,在s-Aff-Wild2數據集上提升表情識別宏F1至0.446,並通過第二個骨幹網絡突破動作單元瓶頸。

來源arXiv Computer Vision作者: Hong Hai Nguyen, Sy Phan Van, Soo-Hyung Kim, Van-Thong Huynh
面向部分標註的多任務面部情感識別的共享潛變量
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

本文提出了一種針對部分標註的多任務面部情感識別的新方法。真實環境中的面部情感本質上是多任務的:效價-喚醒度、離散表情和麪部動作單元都描述了同一張臉。然而,現有數據集對這些任務的標註往往是部分且不均勻的,例如s-Aff-Wild2數據集中只有37%的幀同時具有全部三類標籤。傳統方法通常直接掩蓋缺失標籤或使用偽標籤,從而忽略了跨任務的有用信號。作者認為,這種處理方式浪費了多任務之間的潛在關聯,因為同一張臉的不同情感表徵應該共享底層信息。

為了解決這一問題,作者提出將部分標註的多任務學習視為對共享情感潛變量的邊緣化問題。具體來説,他們引入了一個變分瓶頸,該瓶頸作為三個任務解碼器(分別對應效價-喚醒度、離散表情和動作單元)的中間表示。這樣一來,只要一幀圖像有任何一個任務的標註,就能通過共享潛變量影響其他任務的表示。原本被掩蓋的損失函數以證據下界(ELBO)的重建項形式重新出現,從而實現了對缺失標籤的自然處理,而無需顯式地填充或掩碼。

在s-Aff-Wild2數據集上的實驗表明,單獨使用一個骨幹網絡時,該方法將表情識別的宏F1分數從專門模型的0.403提升至0.446,而傳統掩碼損失模型無法達到這一水平。這一提升在統計上是顯著的,並且通過匹配的控制負例驗證了其可靠性。進一步,通過引入第二個近乎相同的骨幹網絡並利用其去相關的誤差,該方法突破了動作單元的識別上限——這一上限即使是利用外部動作單元數據也無法突破,同時效價-喚醒度的性能保持在噪聲水平內。作者認為,這表明多任務共享信號對動作單元的識別有獨特幫助,而單一任務或外部數據難以提供同樣的增益。

控制實驗是本文的重要部分。作者精心設計了多個對照實驗,包括使用匹配的控制負例來排除假陽性。這些實驗表明,稀有類別的失敗主要源於表示能力不足,而非損失函數的形狀問題。換言之,模型不是因為損失函數偏向常見類別而失敗,而是因為共享潛變量未能充分捕捉稀有類別的特徵。這為未來改進提供了明確的方向:增強共享表示的多樣性或引入類別平衡機制。

由於每個任務的數據來源在評估劃分時被選擇,作者報告了驗證集上的綜合多任務分數1.679作為樣本內端點,其結論主要基於控制比較。此外,他們還展示了表情識別優勢在AffectNet和RAF-DB數據集上的小規模、依賴特定條件的遷移,但將其視為探索性結果而非結論性證據。總體而言,這項研究為部分標註的多任務學習提供了一個優雅的理論框架,並在具有挑戰性的基準上取得了實質性改進,對情感計算領域具有重要參考價值。

(注:本文內容基於arXiv預印本2607.16285,作者包括Hong Hai Nguyen等人,提交於2026年7月11日。)

展開要點與分析

文章情報

投資人進階

要點

  • 將部分標註的多任務學習視為對共享情感潛變量的邊緣化,一個變分瓶頸協調三個任務解碼器。
  • 在s-Aff-Wild2上,僅37%的幀具有全部標籤,該方法將表情宏F1從0.403提升至0.446。
  • 第二個骨幹網絡利用去相關誤差突破動作單元上限,而效價-喚醒度保持噪聲水平。
  • 控制實驗表明稀有類失敗是表示性問題而非損失函數問題。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。