图传导锐化:在节点分类中利用未标记预测
本文提出图传导锐化(TS)方法,通过最小化未标记节点的预测熵来改进半监督节点分类的训练目标,无需改变模型架构即可在多个基准上提升性能。
近日,一篇题为《Graph Transductive Sharpening: Leveraging Unlabeled Predictions in Node Classification》的论文在 arXiv 上正式发表,为半监督节点分类任务提供了全新的训练目标改进思路。该研究由 Brown Zaz 等五位作者共同完成,提出了一种名为“图传导锐化”(Transductive Sharpening, TS)的方法,旨在从训练过程中所有节点的预测中提取额外信号,特别是那些没有标签的节点。
在半监督学习中,传统分类目标函数(如交叉熵损失)仅关注已标记节点的预测准确性,而完全忽略了模型对未标记节点产生的预测。作者观察到一个关键现象:即使没有真实标签,这些预测本身也可能蕴含对训练有益的信息。通过分解交叉熵损失,他们发现损失函数包含两个组成部分:一是依赖标签的对齐项,二是与标签无关的熵项。由此,他们提出使用预测置信度(即熵的倒数)作为在无标签情况下提取信号的自然度量。
基于这一洞察,TS 方法在损失层面进行简单而有效的修改:对于未标记节点,最小化其预测熵,即鼓励模型做出更确定的预测;对于已标记节点,则通过一个平衡项来抵消这种影响,以避免模型过度自信或忽视标签信息。整个修改不涉及任何骨干架构的变化,仅通过调整损失函数即可生效,代码已开源在 GitHub 上。
研究团队在多个节点分类基准数据集上进行了广泛实验,包括引文网络、社交网络等。结果表明,TS 方法能够在不改变现有图神经网络架构的前提下,持续提升分类准确率,且具有较好的通用性。这一成果为半监督图学习领域提供了新的视角,即训练目标本身仍有优化空间,而不仅仅是模型结构。论文全文 19 页,包含 4 张图表和 17 张表格,详细展示了实验结果和消融研究。