最近、arXivに掲載された論文「多言語知識編集のための大規模言語モデルのマージ手法:実証的探求」は、多言語知識編集(MKE)におけるベクトルマージ手法の有効性を体系的に調査した。単言語環境では位置特定・編集手法が効果的に機能する一方で、多言語設定では言語固有の編集が互いに干渉し、MKEが困難な課題となっている。
研究チームは、3つの主要な問題に焦点を当てた:MKEにおけるベクトルマージ手法の有効性、タスク特異的ベクトルマージ(TSVM)による多言語干渉の低減度合い、そして重みスケーリング因子とランク圧縮比が性能に与える影響。MzsREベンチマークを用い、大規模バッチ編集設定の下で、2つの代表的な大規模言語モデル、2つの基本知識編集手法、12言語に対して6つのマージ変種を評価した。
結果として、共有共分散を用いたベクトル和が全体的に最も信頼性の高い戦略である一方、共有共分散なしの単純な和は性能が低いことが示された。TSVMは一部の設定で性能を向上させるが、多言語干渉を軽減する能力は限定的である。また、性能は重みスケールとランク比の両方に敏感であり、デフォルトより大きいスケーリングと比較的低いランクが良い結果をもたらす傾向がある。
これらの知見は、現在のベクトルマージ手法の実用的な強みと限界を明らかにし、今後の多言語知識編集研究への指針を提供する。論文の著者はKunil Leeら3名で、論文番号はarXiv:2605.13919、2026年5月13日に提出された。この研究は、多言語大モデルの知識編集に重要な実証的基盤を与え、関連分野の発展に貢献するものである。