新興の生成AI技術は多くのタスクや領域で顕著な利益をもたらす一方で、予期しない脆弱性や事前に想定しにくい故障モードを抱える可能性がある。こうした故障モードは、脆弱なコミュニティに不均等な影響を及ぼし得る。EMNLP 2026本会議に採択された論文「Physiognomy Revisited: How Vision-Language Models Encode Sensitive Attributes Through Image Transformation」は、広く知られた2つの視覚言語モデル（VLM）を調査し、これらのモデルが画像生成時に保護されたアイデンティティをどのように符号化するかを検証している。
著者のSoumyajit Datta、Arka Dutta、Ashiqur R. KhudaBukhshは、VLMに対して人間の顔画像を特定の人種アイデンティティ（例：ヒスパニック、黒人、白人、アジア人）や性的指向（例：ゲイまたはストレート）を反映するように変換するよう要求すると、モデルがしばしばその要求に従うことを示した。さらに重要な点として、従うか拒否するかは非決定的であり、グループ感受性がある。つまり、異なるグループに対して体系的に異なる対応が見られるのである。
研究はさらに、生成された画像が統計的に識別可能であり、しばしば根深いステレオタイプを増幅させることを明らかにした。これは、画像変換プロセスが中立ではなく、保護されたアイデンティティに関連する表現バイアスを持ち込むことを意味する。著者らはまた、画像生成段階で導入されたバイアスが、下流のテキスト推論や人物記述タスクに再出現し、モダリティを超えてバイアスが伝播することを示した。
最後に、この憂慮すべき発見は人種アイデンティティや性的指向に限定されないと論文は指摘する。画像生成は犯罪性に関するバイアスも永続させる可能性があり、AI支援プロファイリングのリスクを提起している。この研究は、生成モデルの敏感属性に対する振る舞いについて、より厳格な監査と透明性の高い評価が必要であることを喚起している。