本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

タイムインプリント:マルチモーダル知識グラフにおける時間認識表現の学習

記事の要約

マルチモーダル知識グラフ(MMKG)はテキストや画像などのモダリティでエンティティを豊かにするが、類似したマルチモーダル特徴を持つエンティティの区別は依然として困難である。時間情報は追加モダリティとして曖昧性解消に役立つが、既存手法は時間セマンティクスの疎さや複数タイムスタンプのノイズのため時間を独立モダリティとして扱うことは少ない。本論文では、時間をエンティティレベルのモダリティとして扱い、三視点対照学習により時間・テキスト・視覚表現を整列させるフレームワーク「タイムインプリント」を提案する。さらに、コンパクトなタイムスタンプサブセット選択とアテンションプーリングにより特異性とロバスト性のバランスを図る。3つのMMKGベンチマーク実験で、リンク予測性能が最先端に達し、Hits@1が全体で最大6.07%、上位1%の曖昧サンプルで最大58%向上した。

ソースarXiv Computer Vision著者: Pengyu Zhang, Klim Zaporojets, Congfeng Cao, Jia-Hong Huang, Paul Groth
タイムインプリント:マルチモーダル知識グラフにおける時間認識表現の学習
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

マルチモーダル知識グラフ(MMKG)は、テキストや画像などのモダリティをエンティティに付与することで表現を豊かにしますが、非常に類似したマルチモーダル特徴を持つエンティティの識別は依然として困難です。これらのエンティティは混同されやすく、下流タスクの性能を制限します。時間情報はエンティティの進化を捉える重要な次元であり、理論的には追加モダリティとして曖昧性解消に寄与できますが、既存研究では時間をテキストや画像と並ぶ独立モダリティとして扱うことはほとんどありませんでした。主な障害は、時間セマンティクスが疎でありリッチなモダリティとの整列が難しいこと、およびエンティティが複数のタイムスタンプを持つことが多くそのまま使用するとノイズが生じ表現のロバスト性が低下することです。

これらの課題に対処するため、Pengyu Zhang ら研究チームは「タイムインプリント」フレームワークを提案しました。本フレームワークは初めて時間をエンティティレベルのモダリティとして扱い、三視点対照学習目標を構築して時間・テキスト・視覚表現を共有空間で意味的に整列させます。複数タイムスタンプによる曖昧性を軽減するため、コンパクトなタイムスタンプサブセット選択の設計空間を探索し、アテンションプーリング機構を用いて選択されたサブセットを識別的な時間埋め込みに集約することで、時間特異性とロバスト性のバランスを実現します。

実験は3つの標準MMKGベンチマークでリンク予測性能を評価しました。結果、タイムインプリントは全体のHits@1で既存最先端手法を最大6.07%上回り、特に曖昧性の最も高い上位1%サンプルでは58%もの改善を示しました。さらに、異なる融合戦略やタイムスタンプの可用性・品質に対する感度を分析し、時間がモダリティとして最も効果を発揮する条件を明らかにしました。追加の訓練オーバーヘッドはわずかであり、コードは匿名リポジトリで公開されています。本研究成果は2026年7月にarXivに提出され、コンピュータビジョンとパターン認識の分野に属します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • 時間を独立モダリティとしてマルチモーダル知識グラフに統合し、三視点対照学習で整列。
  • 複数タイムスタンプの曖昧性をコンパクトサブセット選択とアテンションプーリングで解決。
  • リンク予測で最先端性能を達成、特に高曖昧エンティティで顕著な改善。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。