多モーダル臨床データからの時間-to-イベント(TTE)予測は、モダリティ間の不均衡と分布シフトにより依然として難しい。arXivに投稿された新研究は、CT画像と縦断的電子健康記録(EHR)のクロスモーダル表現整列を目的とした基礎モデル駆動の枠組みを提案し、「融合は万能ではない」という設計原則を掲げている。
手法では、CTとEHRをそれぞれのドメインに特化した基礎モデルで独立に符号化し、共有潜在空間で整列させる。融合戦略として、後期融合、対照整合、クロスアテンション、共アテンションの4つを体系的に比較する。この設計により、単一のデータセットや予測対象に縛られず、タスクや施設をまたいで汎化できることを目指す。
評価は臨床的に異なる2つのTTEタスクで行われる。肺塞栓症(PE)死亡率と、心血管疾患(CVD)のMACEアウトカムである。コホートは多施設大規模で、PEは訓練N=3,099、内部検証1,098、外部検証435、CVDは訓練N=2,951、内部検証837、外部検証682である。
主な結果として、2つのモダリティの寄与が同程度のとき、融合は単一モダリティ基線に対して一致性指数(concordance index)を1.5〜5.4%一貫して改善した。ただし最良の融合法はタスクによって異なる。全体として、対照型マルチモーダル融合、特にCLMBR表現を用いた場合が最も一貫して統計的に頑健な改善を示し、PE死亡率予測で顕著だった。MACEでは、クロスアテンション(one-hot)が内部性能で最高、画像誘導の共アテンションが外部性能で最高だった。
著者らは、TTE予測におけるモダリティ不均衡下の融合挙動を初めて体系的に分析したと述べている。そして、タスク認識型のマルチモーダル整列を、頑健な汎化とスケーラブルな臨床展開に必要な設計原則として位置づけている。臨床マルチモーダルAIでは、既定の融合構造に頼らず、タスク特性、モダリティ寄与、内部・外部検証の状況に応じて整列方法を選ぶべきだという示唆である。
論文は2026年6月13日投稿、Zhemin Zhangら10名によるもので、cs.AIに分類され、arXiv番号は2606.15038である。