手術室(OR)におけるテキストからビデオへの検索は、手術の安全性を支える基盤技術である。関係者が特定のイベントの記録を検索し、確認できるようにするからだ。しかし、最も安全上重要なイベントは一般的な構造に従わないことがあるため、テキストからビデオへの検索の潜在能力を最大限に引き出すには、正しいビデオを特定するための推論を必要とする暗黙的なクエリ(例:「クリッピングの直前のステップ」)を扱えなければならない。既存の手法はグローバルな埋め込みに依存しており、そのようなクエリに対して推論することができない。
この課題に対して、論文はOR3を提案する。OR3は、ビデオクリップを動作駆動デジタルツイン(Action-Driven Digital Twins、ActDT)に変換するテキストからビデオへの検索手法である。ActDTは、非重複の時間区間の下で、同時に発生する主語-動作-目的語の三つ組をグループ化する。さらに、ペアになったエンコーダによるクロスモーダルなマッチングではなく、OR3は想像ベースの検索を実行する。すなわち、LLMがクエリから仮説的なActDTを生成するのだ。これにより、ActDTに特化したハードネガティブで訓練された単一のエンコーダを介したモーダル内マッチングが可能になる。最後に、証拠に基づく修正が、上位候補との不一致に基づいて想像されたActDTを改訂し、手順固有のパターンを捉える。
評価のために、著者らはMM-ORからベンチマークを構築した。ロボット膝手術の386本のクリップに対して、4つの推論カテゴリにわたる276件の暗黙的クエリを含む。実験の結果、OR3はR@1で57.6、R@5で77.3を達成し、最強のベースラインを上回った。これらの結果は、OR3が時間的な動作推論を通じて、視覚的に類似した手術室ビデオクリップ間の細粒度の識別を可能にすることを示している。
本論文は2026年6月15日に投稿され、Yiqing Shenら3名によるもので、コンピュータビジョンとパターン認識(cs.CV)に分類される。arXiv番号は2606.17298である。本研究は、安全が最重要となる領域において検索プロセスに推論能力を導入することの重要性を浮き彫りにし、手術室ビデオ分析に新たな技術的道筋を示すものである。