非英語言語における推論のコスト：日本語を事例として
本研究では、日本語で推論する言語モデルの訓練の実現可能性を調査する。Qwen-3-Swallow-8Bをベースにした日本語継続事前学習モデルにGRPOを適用し、推論言語制御が可能であることを示すが、性能は最大でも英語推論ベースラインと同等である。日本語文化ベンチマークではさらに悪化し、日本語推論が文化的タスクのパフォーマンスを自動的に向上させるわけではないことが示唆される。
推論言語モデル（RLM）は、推論向けの訓練データが最も豊富な英語で推論する際に最高の性能を発揮します。しかし、推論トレースはモデルの解釈可能性と安全性の手がかりとなり、モデル利用者と開発者の両方にとって実用的に有用です。そのため、ユーザーが選択した言語で推論しながら、強力な推論性能を維持できるモデルを開発することが望まれます。本研究では、日本語で推論するモデルの訓練の実現可能性を調査します。
研究チームは、Qwen-3-8Bから継続事前学習された日本語LLMであるQwen-3-Swallow-8Bをベースに、GRPOを用いて日本語推論バリアントを開発しました。このモデルをコーディング、数学、科学のベンチマークで評価した結果、GRPOによる日本語継続事前学習モデルの訓練で推論言語制御が可能であることが示されました。しかし、その性能は、いくつかのベンチマークにおいて強力な英語推論ベースラインと同等であるにすぎません。
さらに、訓練したモデルを日本語文化ベンチマークで評価したところ、ベースラインモデルよりも性能が低下していることが観察されました。これは、日本語での推論が文化的に関連するタスクのパフォーマンスを自動的に向上させるわけではないことを示唆しています。本研究は多言語推論モデルの開発に重要な洞察を提供しますが、文化知識をより効果的に統合するためのさらなる研究が必要であると結論付けています。本論文はYuu Jinnaiによって執筆され、2026年7月11日にarXivに投稿されました。今後の研究では、推論能力を保持しつつ文化知識をモデルに組み込む方法に焦点を当てるべきだと指摘しています。