現在の文化アライメント手法は、推論時の介入に焦点を当てており、モデルがすでに十分な文化知識を含んでいると仮定している。しかし、arXivに新たに投稿された論文はこの前提に疑問を投げかけ、現代の大規模言語モデル（LLM）の訓練パイプラインには「文化データの漏斗」が存在すると主張している。この漏斗により、文化情報が伝達過程で徐々に失われていくのである。
論文はAnanya Sahuら6名の著者により執筆され、2026年6月11日に提出され、計算と言語（cs.CL）分野に分類されている。研究者らは多次元のタグ付けフレームワークを採用し、事前訓練、ファインチューニング、アライメント、推論の各段階のデータセットにおける文化信号の分布と変化を系統的に追跡した。分析の結果、訓練プロセス全体を通じて、明示的な文化信号は訓練後の段階で急激に減少し、代わりに地理的に集中したタスク特化型のデータが支配的になるという明らかな傾向が明らかになった。これらのデータは特定の専門タスクでは優れた性能を発揮するかもしれないが、モデルにバランスの取れた文化的視点を提供することはできない。
研究はさらに多言語性の役割を探求している。多言語データは文化知識の地理的多様性を高めることができるが、異なる文化がバランスよく表現されることを保証するものではない。言い換えれば、言語の種類を増やすだけでは文化的バイアスの問題を解決するには不十分であり、データ分布の不均衡が依然として存在する可能性がある。
タグ付けフレームワークの有効性を検証するため、研究者らは提案する文化タグを下流の文化ベンチマークテストに適用し、これらのタグが文化関連タスクにおけるモデルの性能を向上させることを示した。この発見は、文化アライメントを真に推進するには、推論段階の介入から訓練データパイプラインの源流へと焦点を移し、文化信号が各段階で十分に保持されるようにする必要があることを示唆している。
将来の研究を促進するため、チームは560万サンプルを含む文化タグ付きデータセットをHugging Faceプラットフォーム（CohereLabs/CultureMarkers）で公開した。このデータセットは文化アライメント研究に重要なデータ基盤を提供し、より包括的でバランスの取れた文化表現学習を推進することが期待される。