本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

ModTGCN: テキスト分類のためのモジュラリティ認識グラフニューラルネットワーク

記事の要約

ModTGCNを提案。モジュラリティ認識GNNであり、クロスエントロピーとモジュラリティベースの補助目的を同時最適化し、クラス一貫性のある文書コミュニティを促進しつつ識別表現を維持。5つのベンチマークで一貫した改善、特に低ホモフィリーデータセットで大きな向上。

ソースarXiv Computational Linguistics著者: Rajarshi Misra, Aditya Sharma, Vinti Agarwal, Hari Om Aggrawal
ModTGCN: テキスト分類のためのモジュラリティ認識グラフニューラルネットワーク
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

テキスト分類において、グラフベースのモデルは通常、局所的な近傍集約に依存して文書間の意味関係を捉える。しかし、このアプローチは文書グラフに広く見られるグローバルなコミュニティ構造——同じカテゴリの文書が密なクラスタを形成する性質——を見落としがちである。この構造を無視すると、クラス境界が曖昧になり、過平滑化が発生して深層ネットワークの分類性能が低下する。この課題に対処するため、研究チームはモジュラリティ理論をグラフニューラルネットワークに導入した新モデルModTGCN(Modularity-aware Graph Convolutional Network)を提案した。

ModTGCNの核心的な革新は、標準的なクロスエントロピー損失とモジュラリティベースの補助目的を同時最適化する点にある。モジュラリティ指標はグラフ分割の品質を評価し、クラス一貫性のある文書コミュニティの形成を促進すると同時に、識別的なノード表現を維持する。具体的には、モジュラリティ項は事前学習またはファインチューニングされたTransformerモデルから生成された埋め込みベクトルに基づく文書間類似度グラフ上で計算される。この手法はクラス内の凝集性を強化し、クラス間の接続を抑制することで、過平滑化を効果的に緩和する。

スケーラビリティの面では、ModTGCNは元のTextGCNの異種グラフを文書-単語と単語-単語のコンポーネントに分離し、全グラフ上の複雑な計算を回避する。この分離により、トレーニング速度が2倍から10倍向上し、分類精度を維持する。さらに、研究チームはグラフ構築戦略、ラベル認識エッジ再重み付け、モジュラリティ最適化のための監視信号選択についても詳細に検討し、モデルのロバスト性を高めている。

実験はOhsumed、20NG、R8、R52、MRの5つの標準ベンチマークデータセットで実施された。結果は、ModTGCNがすべてのデータセットで一貫した改善を達成し、特にホモフィリーが低く構造が複雑なOhsumedと20NGで最も顕著な向上を示した。例えばOhsumedでは、ベースラインモデルと比較して精度が3パーセントポイント以上向上した。本論文は国際会議PAKDD2026に採択されており、関連するコードとモデルはGitHubで公開されている。

この研究は、グラフニューラルネットワークを用いたテキスト分類に新たな視点を提供する。モジュラリティ制約を導入することで、モデルは文書のグローバルなコミュニティ構造を自動的に発見し活用できるようになり、計算効率を保ちつつ分類性能を向上させる。将来的には、このアプローチはソーシャルネットワーク分析やバイオインフォマティクスなど、他のグラフ構造データにも拡張される可能性がある。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • グローバルコミュニティ構造を組み込み、過平滑化を緩和
  • Transformer埋め込みから導出された文書類似度グラフ上のモジュラリティ目的
  • グラフの分離により2~10倍の学習高速化
  • Ohsumedや20NGなどの複雑なデータセットで最大の改善

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。

ModTGCN: テキスト分類のためのモジュラリティ認識グラフニューラルネットワーク | AI News Hub