マルチモーダル大規模言語モデル（MLLM）は、幻覚を軽減するために検索拡張生成（RAG）と統合されることが増えています。しかし、パデュー大学の研究者による最近の研究では、この統合に深刻な欠陥があることが明らかになりました。完全に正確な「オラクル」コンテキストを追加しても、モデルが当初の正しい予測を放棄する可能性があるのです。この現象は「再破損」（recorruption）と呼ばれています。
研究チームは、内部注意行列のメカニズム診断を通じて、再破損が2つの注意崩壊によって引き起こされることを発見しました。1つ目は「視覚的盲点」で、視覚的注意の質量と鋭敏性が体系的に抑制されることを特徴とします。2つ目は「構造的位置バイアス」で、モデルに意味的関連性よりも境界トークンを優先させます。さらに、彼らの分析は「成功の幻想」を明らかにし、一見正しいRAG結果の多くは、モデルのテキストコピーバイアスがたまたま正解位置と一致した位置的な偶然に過ぎないことを示しました。
これらの脆弱性に対処するために、研究者らはボトルネック注意介入回復（BAIR）を提案しました。BAIRはパラメータ不要の推論時フレームワークで、視覚的顕著性を回復し、テキストの妨害要素に位置認識ペナルティを適用します。医学的事実性、社会的公平性、地理空間ベンチマークにおいて、BAIRはマルチモーダルグラウンディングを回復し、モデルの再訓練や微調整を必要とせずに診断信頼性を向上させました。
この研究は、マルチモーダルRAGにおけるテキストバイアスの重要性を強調し、将来の改善への道を開くものです。BAIRのような軽量な介入は、実世界のアプリケーションにおけるMLLMのロバスト性を高めることが期待されます。