視覚言語モデル（VLM）は、医療アドバイスや精神的支援、法的参照などのリスクが高い場面でますます利用されている。そのような状況では、一般的なユーザーには妥当な応答でも、特定のユーザーの医学的・感情的・状況的コンテキストをモデルが知らないために、安全でない結果を招く可能性がある。この「パーソナライズド安全性」の問題を多モーダルシステムで研究するため、Edward Sun氏ら10名の著者らはMPS-Benchを構築した。MPS-Benchは、584枚の実世界画像から得た5,181のシナリオで構成され、12の高リスク領域をカバーし、各シナリオには隠されたユーザープロファイルが付随している。モデルが不足している個人情報を能動的に尋ねるか、それとも回答を急ぐかを評価するのが目的である。
研究チームは8つの最先端VLMを評価した。結果として、これらのモデルは86%から99%の頻度で直接回答し、文脈の欠落を尋ねることはほとんどなかった。パーソナライズド安全性スコアはどのモデルも2.6/5を超えなかった。著者らはさらに、多モーダル融合の過程で「視覚的優位」が起きることを見いだした。視覚情報は初期の層でテキスト表現に入り込み、テキストに含まれるリスクシグナルを抑圧する。因果介入によって、視覚的な情動がまず初期にテキストストリームへ転送され、その変更されたテキスト表現を通じて最終決定が形作られるという2段階のメカニズムが明らかになり、後期段階の内部修正は信頼できないと結論づけられた。この知見に基づき、提案手法PRISMは、双方向のクロスモーダル変調を用いて照会が保留（deferral）を必要とするかどうかを予測する軽量な入力モニタである。実験では0.978のAUCに達し、すべての評価モデルにおいて安全性と実用性のパレートフロンティアを厳密に支配した。
本論文はCOLM 2026の主要会議論文として採録されており、プレプリントはarXiv:2609.04281で入手できる。研究の意義は、VLMの安全性を「一般的な有害性」から「利用者ごとの安全性」へ拡張した点にある。同じ回答でも、ある人には無害でも別の人には有害となりうるため、システムは不確かなときに入力を求める責任を持つべきだが、現行モデルは対話を継続することを優先する傾向がある。視覚的優位のメカニズムは、後段の調整やテキストによる指示だけでは不十分である理由を説明している。PRISMのように入力段階でリスクを検出し、必要に応じて遅延や照会を行う設計は、高リスク環境でVLMを運用する際の実践的な防衛策となる。※VLMなどの略称は原文に従った。