3D CTレポート生成におけるLLM適応の再考：スケーリングと診断事前情報の研究
本研究は、ボリュームCTレポート生成のためのパラメータ効率的な適応戦略を調査し、軽量な診断事前情報条件付けフレームワークRAD3D-Prefixを導入する。LLMを凍結し、投影層のみを訓練することで、訓練可能パラメータを最小限に抑え、過学習を軽減する。9610万から16億パラメータのLLMにわたる系統的な実験により、微調整は小規模LLMに有益である一方、大規模LLM（10億以上）を凍結することが優れたトレードオフを提供することが明らかになった。RAD3D-Prefixは、自動評価指標と臨床読者研究においてベースラインを上回り、強力なドメイン外汎化を示す。
近年、マルチモーダル学習、特に大規模言語モデル（LLM）や視覚言語モデル（VLM）は、自然画像において高い適応性を示しています。しかし、これらのモデルを医療分野、特にボリューム（3D）画像に拡張することは、計算の複雑さ、ボリューム依存性、および視覚特徴と臨床用語間の意味ギャップのために困難です。限られた医療データでLLMを単純に微調整すると、過学習や臨床的幻覚（言語流暢性が臨床的事実性より優先される）を引き起こすことがよくあります。
この研究では、Vanshali Sharmaらは、ボリュームCTレポート生成のためのパラメータ効率的な適応戦略を調査し、RAD3D-Prefixという軽量な診断事前情報条件付けフレームワークを導入します。このモジュールは、画像埋め込みとマルチラベル診断分類ロジットを統合し、重要な臨床詳細を保持しながら意味ギャップを埋めます。LLMを凍結状態に保つことで、この方法は最小限の訓練可能パラメータを必要とし、小規模でドメイン固有のデータセットでの過学習のリスクを軽減します。
9610万から16億パラメータのLLMにわたる系統的な研究を通じて、微調整は小規模LLMに最も有益である一方、より大規模なLLM（約10億以上）を凍結し、軽量な投影層のみを訓練することが、性能、汎化、および計算効率の間で優れたトレードオフを提供することがわかりました。複数の自動評価指標と臨床読者研究にわたって、RAD3D-Prefixは同等のパラメータ効率的なベースラインを上回り、完全に微調整された代替手法よりもはるかに少ない訓練可能パラメータを使用しながら、強力なドメイン外汎化を示しました。
この成果は、LLMの医用画像レポート生成への実用的応用に新たな道を開くものです。特に、診断事前情報を活用したパラメータ効率的なアプローチは、限られたデータセットでも高い性能を発揮できることを示しており、今後より広範な医学画像解析タスクへの応用が期待されます。計算リソースの制約がある環境でも実装可能なこの手法は、AI支援診断の実用化に向けた重要なステップとなるでしょう。