LLMはアフリカ系アメリカ英語を静かに修正する：アクティベーションステアリングによる方言バイアスの監査と軽減
大規模言語モデル（LLM）は、文脈がアフリカ系アメリカ英語（AAE）であっても、標準アメリカ英語（SAE）の続きを系統的に好み、AAEをSAEに書き換えることが示されました。著者らは、条件付き方言群不変性（cDGI）やアクティベーションステアリングを用いたバイアスの監査と軽減のためのエンドツーエンドフレームワークを提案します。また、最大の実AAE並列コーパスREAL-AAEを公開しました。
アフリカ系アメリカ英語（AAE）は、3000万人以上が話す規則に従った方言ですが、大規模言語モデル（LLM）はこれを頻繁に誤解し、「修正」します。arXivに投稿された新しい研究（arXiv:2607.06845）によると、最先端のLLMは、先行文脈がAAEであっても標準アメリカ英語（SAE）の続きを系統的に好み、事実上AAEをSAEに書き換えていることが明らかになりました。この研究では、6つの命令調整済みLLM（140億から700億パラメータ）をテストし、すべてのモデルがこのバイアスを示すことを確認しました。
バイアスを監査するために、研究者らは条件付き方言群不変性（cDGI）を導入しました。これは、翻訳者由来のアーティファクトからモデルの真のバイアスを分離する手法です。さらに、どのAAEマーカーがバイアスを最も強く引き起こすかを特定する特徴レベルのローカリゼーション分析も行いました。その結果、構文構造、特に否定一致（例：「ain't nobody」）がすべてのモデルに共通するトリガーであることが分かりました。
バイアスを軽減するために、研究者らは初めてアクティベーションステアリングを方言バイアスに適用しました。これは、トレーニング不要でテスト時に使用できる手法で、因果トレーシングによって方言方向を抽出し、それをバイアス関連の層に注入します。アクティベーションステアリングは、SAEの流暢さを保ちながら、プロンプトよりも5〜20倍効果的にバイアスを低減しました。
この研究を支援するために、チームはREAL-AAEを公開しました。これは、これまでで最大の実AAE並列コーパスで、自然なツイートからの17,479個のAAE/SAE/AAE_backトリプレットを含み、以前の最大の実AAEリソースの2〜6倍の規模です。このコーパスは、自動検証（BERTScore F1=0.95）と3人のAAEネイティブスピーカーによる人的検証（83.0%の意味的一致）の両方で検証されています。
この研究は、LLMに存在する方言バイアスを明らかにし、効果的な軽減方法を提供することで、AIシステムの公平性と包摂性の向上に重要な意味を持ちます。