「モグラ叩きジレンマ」を解決：AIビジョンモデルのバイアス除去におけるスマートな手法

今日の病院やクリニックでは、皮膚科医がAIモデルを使って皮膚病変を分類し、癌化のリスクがあるか良性かを評価することがある。しかし、モデルが特定の肌色に偏っていると、ハイリスク患者を見逃す可能性がある。

バイアスはAI研究が直面する最も根強く広く知られた課題の一つである。バイアスは訓練データに関連して語られることが多いが、モデルアーキテクチャ自体もバイアスを含み増幅させる可能性があり、現実世界でのモデル性能に悪影響を及ぼす。医療のようなハイリスクなシナリオでは、性能低下の結果が重大であるため、バイアスは極めて重要な安全性の問題となっている。

マサチューセッツ工科大学（MIT）、ウースター工科大学、グーグルの研究者らは、2026年の国際学習表現会議（ICLR）で採択された論文で、「Weighted Rotational DebiasING（WRING）」と呼ばれる新しいバイアス除去手法を提案した。これはOpenAIのOpenCLIPなどの視覚言語モデル（VLM）に適用できる。

VLMはマルチモーダルモデルであり、ビデオ、画像、テキストなどの異なるデータモダリティを同時に理解・解釈できる。VLM向けのバイアス除去手法は既に存在するが、最も一般的な「投影型バイアス除去」は「モグラ叩きジレンマ」と呼ばれる問題を引き起こす。この現象は2023年にAI研究に正式に導入された経験的な観察結果である。

投影型バイアス除去は、モデルの埋め込み表現からバイアスを含む部分空間を「投影」して取り除く後処理手法である。しかし、この手法には欠点がある。論文の第一著者でMITで博士研究員を務めたWalter Gerych氏は、「そうすると、周りのすべてを意図せず押しつぶしてしまう。モデルが学習した他のすべての関係が変わってしまう」と説明する。

Gerych氏は現在ウースター工科大学のコンピュータサイエンス助教授であり、共著者にはMITの大学院生Cassandra Parent氏とQuinn Perian氏、グーグルのRafiya Javed氏、MIT電気工学准教授のJustin Solomon氏とMarzyeh Ghassemi氏（アブドゥル・ラティフ・ジャミール機械学習・健康研究所および情報・意思決定システム研究所のメンバー）が含まれる。

投影型バイアス除去は、投影されたバイアスに基づいてモデルが行動するのを防ぐが、他のバイアスを増幅したり新たに作り出したりする可能性がある。これがモグラ叩きジレンマである。Ghassemi氏によると、モデルのバイアスの意図しない増幅は「技術的かつ実践的な課題」であり、「例えば、臨床スタッフの画像を検索するVLMのバイアス除去で、人種バイアスを取り除くと、性別バイアスが意図せず増幅される可能性がある」という。

WRINGは、モデルの高次元空間内のバイアスに関与する座標を異なる角度に移動させることで、モデルが特定の概念内で異なるグループを区別できなくする。これにより、特定の空間内の表現を変更しつつ、モデルの他の関係はそのまま維持される。投影型バイアス除去と同様にWRINGも後処理手法であり、事前学習済みVLMに「その場で」適用できる。

「人々は既に多大なリソースと費用を費やしてこれらの巨大モデルを訓練しており、訓練中に修正を加えたくはない。なぜならゼロから始めなければならないからだ」とGerych氏は説明する。「WRINGは非常に効率的で、モデルの追加訓練を必要とせず、侵襲性も最小限である。」

研究結果では、WRINGが対象概念のバイアスを大幅に低減し、他の領域のバイアスを増加させないことが示された。しかし現時点では、この手法はコントラスト言語-画像事前学習（CLIP）モデルに限定されている。CLIPは画像と言語を結びつけて検索や分類を行うVLMの一種である。

「これをChatGPTスタイルの生成言語モデルに拡張することが、我々にとって妥当な次のステップである」とGerych氏は述べている。

本研究は、一部、国立科学財団CAREER賞、AI2050賞アーリーキャリアフェローシップ、スローン研究フェロー賞、ゴードン・アンド・ベティ・ムーア財団賞、およびMIT-Googleコンピューティングイノベーション賞の支援を受けた。