カルチャーファネル：データにないものは調整できない
現在の文化的アライメント手法は推論時の介入に焦点を当てており、モデルが十分な文化的知識をすでに持っていると仮定している。本研究は、現代のLLMパイプラインが「文化的データファネル」に悩まされていると主張する。すなわち、ポストトレーニング中に明示的な文化的信号が急激に減少し、地理的に集中したタスク特化データが支配的になる。多言語性は地理的多様性を高めるが、バランスの取れた表現を保証しない。著者らは560万サンプルの文化的タグ付きデータセットを公開し、今後の研究を促進する。
arXivで発表された最新の研究「カルチャーファネル：データにないものは調整できない」は、大規模言語モデル（LLM）の文化的アライメントにおける重要な問題を明らかにしている。現在の手法は推論時の介入に焦点を当てているが、モデル自体が訓練データ内で十分な文化的知識を獲得していない可能性がある。研究者らはこれを「文化的データファネル」と呼び、事前学習、微調整、アライメント、推論データセットの4段階パイプラインにおいて、明確な文化的信号がポストトレーニング中に急激に減少し、地理的に集中したタスク特化データが支配的になることを示した。
研究チームは多次元タグ付けフレームワークを開発し、大規模データセット内の文化的コンテンツをラベル付けして分析した。その結果、多言語訓練が文化的知識の地理的多様性を高める一方で、異なる文化的背景における表現のバランスを保証するわけではないことが判明した。むしろ、英語中心のタスク特化データが後段階で文化的多様性を圧迫している。
この仮説を検証するため、研究者らは構築した文化的タグ付きデータセット（CultureMarkers、560万サンプル）を使用して下流の文化ベンチマーク性能を改善し、訓練データパイプラインへの焦点の移行の必要性を実証した。このデータセットはHugging Faceで公開されており、他の研究者が利用できる。
本研究は、現在広く採用されている「推論時アライメント」パラダイムに挑戦し、文化的アライメントはデータの根源から始めるべきであると提唱している。真に文化的に包括的なAIシステムを構築する上で、この発見は重要な意味を持つ。さらに、研究では多言語能力だけでは文化的バイアスは解決できず、訓練データの文化的多様性が根本的に重要であると指摘する。今後の課題として、事前学習段階から豊富な文化的知識を組み込む方法や、よりマイナーな文化をカバーするタグ拡張、文化的データ拡張技術によるファネル効果の緩和などが挙げられている。