跳到主要内容
AI News HubLIVE
站内改写1 分钟阅读

基于动作驱动数字孪生的手术室视频推理式文本检索

文章摘要

OR3 将手术室视频片段转化为动作驱动的数字孪生(ActDT),并利用大语言模型从隐含查询中生成假设性 ActDT,通过单编码器实现模态内匹配与证据修正,在机器人膝关节手术的 276 条隐含查询基准上取得 57.6 R@1 和 77.3 R@5,优于最强基线。

来源arXiv Computer Vision作者: Yiqing Shen, Hao Ding, Mathias Unberath
基于动作驱动数字孪生的手术室视频推理式文本检索
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

在手术室(OR)场景中,文本到视频检索是一项支撑手术安全的关键技术:它使利益相关者能够检索并查看特定事件的录像。然而,最具安全关键性的事件往往并不遵循常规结构,因此要释放文本到视频检索的全部潜力,系统必须能够处理那些需要推理才能定位正确视频的隐含查询——例如“夹闭前的那一步”。现有方法依赖全局嵌入,无法对此类查询进行推理。

针对这一瓶颈,论文提出了 OR3,一种将视频片段转换为动作驱动数字孪生(Action-Driven Digital Twins,简称 ActDT)的文本到视频检索方法。ActDT 在非重叠的时间区间内,将并发的主体-动作-客体三元组进行分组,从而形成结构化的动作表示。与传统的通过配对编码器进行跨模态匹配不同,OR3 采用基于想象的检索范式:由大语言模型(LLM)从查询中生成假设性的 ActDT。这样一来,检索过程便转化为模态内匹配,仅需一个编码器即可完成,并且该编码器使用针对 ActDT 定制的困难负样本进行训练。

在此基础上,OR3 引入了证据基础的修正机制:根据与排名靠前的候选视频之间的差异,对想象出的 ActDT 进行修订,从而捕捉特定手术流程的模式。为了验证方法有效性,作者从 MM-OR 数据集构建了一个基准,包含来自机器人膝关节手术的 386 个视频片段,以及 276 条隐含查询,覆盖四个推理类别。实验结果表明,OR3 取得了 57.6 的 R@1 和 77.3 的 R@5,优于最强基线方法。这些结果说明,OR3 通过时间动作推理,能够在视觉上相似的手术室视频片段之间实现细粒度区分。

该论文提交于 2026 年 6 月 15 日,作者为 Yiqing Shen 等三人,属于计算机视觉与模式识别(cs.CV)领域,arXiv 编号为 2606.17298。研究凸显了在安全关键场景中,将推理能力引入检索流程的重要性,也为手术室视频分析提供了新的技术路径。

展开要点与分析

文章情报

工程师进阶

要点

  • 提出 OR3 方法,将视频片段表示为动作驱动数字孪生(ActDT),按非重叠时间区间组织主体-动作-客体三元组。
  • 摒弃传统跨模态配对编码器,改为基于想象的检索:LLM 从查询生成假设性 ActDT,并用单一编码器进行模态内匹配。
  • 在 MM-OR 构建的包含 276 条隐含查询、覆盖四类推理的基准上,OR3 达到 57.6 R@1 和 77.3 R@5,超越最强基线。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。