在文本分类任务中,基于图的模型通常利用局部邻域聚合来捕捉文档间的语义关系。然而,这种方法忽略了文档图中普遍存在的全局社区结构——即相同类别的文档往往形成紧密的聚类。忽视这种社区结构会导致类别边界模糊,并引发过平滑问题,使得深层网络的分类性能下降。为了解决这一挑战,研究团队提出了一种名为ModTGCN(Modularity-aware Graph Convolutional Network)的新型模型,该模型将模块化理论引入图神经网络,实现了对全局社区结构的显式建模。
ModTGCN的核心创新在于其联合优化策略:它同时最小化标准交叉熵损失和一个基于模块化的辅助目标。模块化指标用于衡量图划分的质量,鼓励模型将文档划分成类别一致的社区,同时保留判别性的节点表示。具体来说,模块化项是在一个文档-文档相似度图上计算的,该图由预训练或微调后的Transformer模型生成的嵌入向量构建。这种方法不仅强化了类内聚合,还抑制了类间连接,从而有效缓解了过平滑。
在可扩展性方面,ModTGCN将原始TextGCN中的异构图解耦为独立的文档-词和词-词组件,避免了全图上的复杂运算。这种解耦使得训练速度提升了2到10倍,同时保持了模型的分类精度。此外,研究团队还深入探讨了图构建策略、标签感知的边重加权方法以及模块化优化的监督信号选择,进一步提升了模型的鲁棒性。
实验在五个标准基准数据集上进行,包括Ohsumed、20NG、R8、R52和MR。结果表明,ModTGCN在所有数据集上均取得了稳定的改进,特别是在同质性较低、结构复杂的Ohsumed和20NG上,提升幅度最为显著。例如在Ohsumed上,准确率相比基线模型提升了超过3个百分点。该论文已被PAKDD2026国际会议接收,相关代码和模型已在GitHub上开源。
这项研究为图神经网络在文本分类中的应用提供了新的视角。通过引入模块化约束,模型能够自动发现并利用文档的全局社区结构,从而在保持计算效率的同时提升分类性能。未来,该思路有望扩展到其他图结构数据,如社交网络分析和生物信息学等领域。