本論文は、クロスリンガル転移における一般的な仮説を検証している。すなわち、源言語と目標言語が同じ語族に属していれば、源言語での微調整後に目標言語でも高い性能が得られるという仮説である。研究チームはアラビア語を源言語として選び、4Bから671Bまでのパラメータ規模を持つ7つの大規模言語モデルを微調整した。対象にはDenseアーキテクチャとMixture-of-Expertsアーキテクチャの両方が含まれる。その後、セム語族に属する複数の言語と、非セム語族の対照言語において、ゼロショットの読解タスクで評価を行った。
その結果、セム語族に特有の転移が起きているという証拠は得られなかった。観察された主なパターンは語族とは無関係だった。ベースライン性能が低いモデルは、微調整後にほぼすべての言語で著しく改善した。一方、もともとベースライン性能が高いモデルは、どの言語に対しても改善幅が限定的だった。つまり、クロスリンガルなタスクにおける改善の度合いは、目標言語とアラビア語の系統関係よりも、モデルの初期性能に大きく依存している。
この解釈をさらに確かめるため、著者らはChain-of-Thought(思考の連鎖)のアブレーション実験も実施した。その結果、微調整から最も大きな恩恵を受けるモデルは、推論時のChain-of-Thoughtからも同程度の恩恵を受けることが分かった。しかもその効果は言語間でほぼ一貫していた。このことから研究者は、微調整と推論時推論の両方が、クロスリンガルな知識転移を実現しているのではなく、タスクの提示形式をモデルに合わせる役割を果たしている可能性が高いと結論づけている。
この結論は、クロスリンガル転移の研究における方法論上の重要な示唆を持つ。言語的関連性が性能向上の主因ではないのであれば、同じ語族の言語での性能だけを見てモデルの転移能力を判断すると、言語的な汎化性能を過大評価してしまう恐れがある。著者らは、クロスリンガル能力を評価する際には、タスク形式の整合性による利益と言語的類似性に基づく真の転移とを、より厳密に区別する必要があると提言している。
本論文は2026年4月26日にarXivへ投稿された。識別子はarXiv:2606.19346で、計算と言語(cs.CL)に分類され、人工知能(cs.AI)にも関連する。著者はAhmed Haj Ahmedら3名である。