本文にスキップ
AI News HubLIVE
サイト内リライト1 分で読了

VL-MemKnG:長期的な一人称ナビゲーション軌跡に対する質問応答のための時空間知識グラフとハイブリッドメモリ

記事の要約

VL-MemKnG は、時空間知識グラフとセグメントレベルの永続的な文脈メモリを組み合わせたハイブリッドメモリフレームワークを提案し、長期的な一人称視点動画に対する質問応答において検索と推論の性能を向上させ、WalkieKnowledgeT+ ベンチマークで Gemini 2.5 Pro などの強力なベースラインを上回った。

ソースarXiv Robotics著者: Svetlana Lukina, Mohamad Al Mdfaa, Gloria Haro, Sergey Zagoruyko, Gonzalo Ferrer
VL-MemKnG:長期的な一人称ナビゲーション軌跡に対する質問応答のための時空間知識グラフとハイブリッドメモリ
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

長期的な一人称視点の動画においてナビゲーションに関連する質問に答えるには、遠く離れた時点に分散した証拠を検索・整理しつつ、空間的・文脈的な一貫性を保つ必要がある。長文脈の視覚言語モデルは高品質な回答を生成できるが、長い軌跡に対しては計算コストが高く、繰り返しの問い合わせには非効率である。最近の VL-KnG のようなグラフベースの手法は、永続的な時空間知識グラフを用いてこの課題に対処しているが、グラフ中心の検索だけでは、より広範な時間的連続性や文脈的手がかりを十分に表現できない可能性がある。

この問題に対処するため、本論文は VL-MemKnG を提案する。これは VL-KnG を拡張したハイブリッドメモリフレームワークであり、時空間知識グラフと永続的なセグメントレベルの文脈メモリを組み合わせる。知識グラフは構造化された関係情報と長距離の物体関連を捉え、セグメントレベルのメモリは長期的な証拠検索のためのより広い時間的文脈を保持する。ハイブリッドな検索・推論モジュールは両方のメモリ表現を同時に操作し、証拠に基づく回答と時間的に整理された支持証拠を生成する。

著者らはまた、WalkieKnowledge を拡張した WalkieKnowledgeT+ ベンチマークを導入する。これは長期的なナビゲーション指向の動画質問応答を対象とし、複数の非同時刻の瞬間にまたがる証拠集約を必要とする時間分散型推論タスクを含む。WalkieKnowledgeT+ 上で、VL-MemKnG は Top-1 検索精度を 58% から 67% に、Recall@1 を 34.50% から 40.55% に改善し、Gemini 2.5 Pro や Qwen 3.5+ を含むすべての比較手法を上回った。これらの改善は、時間的グローバルおよび時間的分散集約の質問で特に顕著であり、構造化された関係メモリとセグメントレベルの文脈メモリを組み合わせることで、クエリ時の効率的な推論を維持しつつ利点が得られることを示している。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • VL-MemKnG は VL-KnG を拡張し、時空間知識グラフにセグメントレベルの永続的な文脈メモリを追加することで、長期的な証拠検索と推論を可能にする。
  • 新たに導入された WalkieKnowledgeT+ ベンチマークにおいて、Top-1 検索精度は 58% から 67% に、Recall@1 は 34.50% から 40.55% に向上した。
  • 特に、非同時刻の複数の瞬間にまたがる証拠の集約を必要とする時間的グローバルおよび時間的分散集約の質問で顕著な改善が見られる。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。