本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

動作駆動デジタルツインによる手術室クリップの推論的テキスト検索

記事の要約

OR3は手術室のビデオクリップを動作駆動デジタルツイン(ActDT)に変換し、LLMが暗黙的なクエリから仮説的なActDTを生成することで、単一エンコーダによるモーダル内マッチングと証拠に基づく修正を実現する。ロボット膝手術のクリップ386本と暗黙的クエリ276件のベンチマークで、R@1 57.6、R@5 77.3を達成し、最強のベースラインを上回った。

ソースarXiv Computer Vision著者: Yiqing Shen, Hao Ding, Mathias Unberath
動作駆動デジタルツインによる手術室クリップの推論的テキスト検索
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

手術室(OR)におけるテキストからビデオへの検索は、手術の安全性を支える基盤技術である。関係者が特定のイベントの記録を検索し、確認できるようにするからだ。しかし、最も安全上重要なイベントは一般的な構造に従わないことがあるため、テキストからビデオへの検索の潜在能力を最大限に引き出すには、正しいビデオを特定するための推論を必要とする暗黙的なクエリ(例:「クリッピングの直前のステップ」)を扱えなければならない。既存の手法はグローバルな埋め込みに依存しており、そのようなクエリに対して推論することができない。

この課題に対して、論文はOR3を提案する。OR3は、ビデオクリップを動作駆動デジタルツイン(Action-Driven Digital Twins、ActDT)に変換するテキストからビデオへの検索手法である。ActDTは、非重複の時間区間の下で、同時に発生する主語-動作-目的語の三つ組をグループ化する。さらに、ペアになったエンコーダによるクロスモーダルなマッチングではなく、OR3は想像ベースの検索を実行する。すなわち、LLMがクエリから仮説的なActDTを生成するのだ。これにより、ActDTに特化したハードネガティブで訓練された単一のエンコーダを介したモーダル内マッチングが可能になる。最後に、証拠に基づく修正が、上位候補との不一致に基づいて想像されたActDTを改訂し、手順固有のパターンを捉える。

評価のために、著者らはMM-ORからベンチマークを構築した。ロボット膝手術の386本のクリップに対して、4つの推論カテゴリにわたる276件の暗黙的クエリを含む。実験の結果、OR3はR@1で57.6、R@5で77.3を達成し、最強のベースラインを上回った。これらの結果は、OR3が時間的な動作推論を通じて、視覚的に類似した手術室ビデオクリップ間の細粒度の識別を可能にすることを示している。

本論文は2026年6月15日に投稿され、Yiqing Shenら3名によるもので、コンピュータビジョンとパターン認識(cs.CV)に分類される。arXiv番号は2606.17298である。本研究は、安全が最重要となる領域において検索プロセスに推論能力を導入することの重要性を浮き彫りにし、手術室ビデオ分析に新たな技術的道筋を示すものである。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • OR3は、同時に発生する主語-動作-目的語の三つ組を非重複の時間区間でグループ化した動作駆動デジタルツイン(ActDT)としてクリップを表現する。
  • クロスモーダルなペアエンコーダの代わりに、LLMがクエリから仮説的なActDTを生成する想像ベースの検索を採用し、単一エンコーダによるモーダル内マッチングを可能にする。
  • MM-ORから構築した4つの推論カテゴリにわたる276件の暗黙的クエリと386本のクリップからなるベンチマークで、OR3はR@1 57.6、R@5 77.3を達成し、最強のベースラインを上回る。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。