近日,一篇題為《Graph Transductive Sharpening: Leveraging Unlabeled Predictions in Node Classification》的論文在 arXiv 上正式發表,為半監督節點分類任務提供了全新的訓練目標改進思路。該研究由 Brown Zaz 等五位作者共同完成,提出了一種名為“圖傳導鋭化”(Transductive Sharpening, TS)的方法,旨在從訓練過程中所有節點的預測中提取額外信號,特別是那些沒有標籤的節點。
在半監督學習中,傳統分類目標函數(如交叉熵損失)僅關注已標記節點的預測準確性,而完全忽略了模型對未標記節點產生的預測。作者觀察到一個關鍵現象:即使沒有真實標籤,這些預測本身也可能藴含對訓練有益的信息。通過分解交叉熵損失,他們發現損失函數包含兩個組成部分:一是依賴標籤的對齊項,二是與標籤無關的熵項。由此,他們提出使用預測置信度(即熵的倒數)作為在無標籤情況下提取信號的自然度量。
基於這一洞察,TS 方法在損失層面進行簡單而有效的修改:對於未標記節點,最小化其預測熵,即鼓勵模型做出更確定的預測;對於已標記節點,則通過一個平衡項來抵消這種影響,以避免模型過度自信或忽視標籤信息。整個修改不涉及任何骨幹架構的變化,僅通過調整損失函數即可生效,代碼已開源在 GitHub 上。
研究團隊在多個節點分類基準數據集上進行了廣泛實驗,包括引文網絡、社交網絡等。結果表明,TS 方法能夠在不改變現有圖神經網絡架構的前提下,持續提升分類準確率,且具有較好的通用性。這一成果為半監督圖學習領域提供了新的視角,即訓練目標本身仍有優化空間,而不僅僅是模型結構。論文全文 19 頁,包含 4 張圖表和 17 張表格,詳細展示了實驗結果和消融研究。