思考すればするほど偏りが増す：推論モデルにおける長さ駆動型位置バイアス
本研究は、チェーン・オブ・ソート推論がバイアスを低減するという一般的な前提に反し、多肢選択問題において推論軌跡が長くなるほど位置バイアス（回答選択肢の位置に対する偏好）が強まることを示す。13の設定のうち12で、軌跡長と位置バイアススコア（PBS）の間に正の部分相関が確認され、切断実験により因果関係が実証された。671BのDeepSeek-R1では全体のバイアスは低いが、最長四分位では効果が持続する。直接回答の位置バイアスは独立した現象である。これらの結果は、推論モデルを選択肢順序に対してロバストと見なすべきではないことを示唆し、診断ツールキットを提供する。
記事インテリジェンス
要点
- 推論軌跡の長さと位置バイアススコア（PBS）の間に正の相関が、複数のモデルで確認された。
- 切断実験により、長い推論が位置偏好オプションへのシフトを増加させることが示された（R1-Qwen-7Bで16%から32%）。
- DeepSeek-R1 (671B) は全体のPBSが低いが、最長四分位では顕著なバイアス（PBS=0.071）を示す。
- 直接回答の位置バイアスと長さ駆動型バイアスは異なる現象である。
重要な理由
このニュースが重要なのは、推論軌跡の長さと位置バイアススコア（PBS）の間に正の相関が、複数のモデルで確認されたためです。
技術的影響
モデル選定、推論コスト、プロダクト能力、評価基準に影響する可能性があります。
新しい研究論文が、推論モデルにおける直感に反する現象を明らかにしました：考えるほど偏りが深まるというものです。論文タイトルは「More Thinking, More Bias: Length-Driven Position Bias in Reasoning Models」で、チェーン・オブ・ソート（CoT）推論やDeepSeek-R1などの推論チューニングモデルを体系的に分析しています。
一般に、CoT推論は段階的な思考を促すことで、浅いヒューリスティックバイアスを低減すると考えられています。しかし、本研究は多肢選択問題（MCQ）における位置バイアス（回答選択肢の順序に影響される傾向）のテストで、全く異なる結果を得ました。あらゆる推論能力を持つモデルにおいて、質問ごとの位置バイアスは推論軌跡の長さに比例して増大するのです。
研究チームは、MMLU、ARC-Challenge、GPQAなどのベンチマークで、13種類の推論モード設定（R1蒸留7-8Bモデル2つ、CoTプロンプトのベースモデル2つ、671BパラメータのDeepSeek-R1を含む）を評価しました。そのうち12の設定で、精度を制御した後も、軌跡長と位置バイアススコア（PBS）の間に正の部分相関が見られ、相関係数は0.11から0.41（すべてp<0.05）でした。オープンウェイトの全12設定で、PBSは軌跡長の四分位数にわたって単調増加しました。
決定的な切断介入実験は因果関係を示しました。軌跡の後半から再開すると、モデルが位置偏好オプションにシフトする確率が有意に増加しました。R1-Qwen-7Bでは、絶対位置バケットごとに16%から32%の範囲でした。特筆すべきは、671BのDeepSeek-R1が全体のPBSは0.019と低いものの、最長四分位では効果が持続し（PBS=0.071）、精度が長さ駆動バイアスの発現を抑制するものの、根本的なメカニズムを排除しないことを示唆しています。
さらに、直接回答における位置バイアスは独立した現象であり、その特性は異なります（Llama-Instruct-directでは強く、Qwen-Instruct-directでは弱く、軌跡長と無相関）。CoT推論は、このベースラインバイアスを長さで蓄積されたバイアスに置き換えているのです。
これらの結果は、MCQ評価パイプラインにおいて推論モデルをデフォルトで選択肢順序にロバストと見なすべきではないことを強く示唆しています。研究チームは、推論モデルの位置バイアスを監査するための診断ツールキット（PBS、コミットメント変化点、効果的スイッチング、切断プローブ）を提供しています。