本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

マルチテーブル質問応答のための合成的対照推論

記事の要約

本論文は、MMQA向けに合成の対照的推論トレースデータセットを構築するもので、異種のLLMを用いて検証済みの正例トレースともっともらしい負例トレースを生成する。得られた選好ペアを用いてContrastive Preference Optimization(CPO)でオープンウェイトモデルを微調整し、Qwen3-14B、Mistral-8B、Llama-3.1-8BにおいてQ&Aの教師あり微調整比で9.7%〜16.3%の絶対平均改善、MMQAでは最大21ポイントの向上を達成した。

ソースarXiv AI著者: Ankit Pratap Singh, Xin Su, Phillip Howard
マルチテーブル質問応答のための合成的対照推論
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

マルチテーブル質問応答では、モデルは複数の関係テーブルにまたがって関連する証拠を検索し、スキーマを関連付け、合成的な推論を行う必要がある。しかし、既存のマルチテーブル質問応答資源は通常、質問と最終回答のみを提供しており、回答がどのように導かれたかを説明する推論の監督情報を欠いている。このことが、モデルが中間的な推論過程を学習する上での制約となっている。

この空白に対処するため、Ankit Pratap Singh氏らによる論文「Synthetic Contrastive Reasoning for Multi-Table Q&A」は、合成的な対照的推論トレースを構築する手法を提案している。研究チームはMMQAデータセットを基盤とし、異種の大規模言語モデルを用いて、検証済みの正例推論トレースと、もっともらしいが実際には誤っている負例推論トレースをそれぞれ生成し、両者をペアにして選好データを形成した。

学習段階では、この選好ペアを用いてContrastive Preference Optimization(CPO)によりオープンウェイトの大規模言語モデルを微調整する。実験はQwen3-14B、Mistral-8B、Llama-3.1-8Bの3モデルで行われた。その結果、質問応答データのみによる教師あり微調整と比較して、CPOは平均性能で9.7%から16.3%の絶対改善を示し、MMQAベンチマークでは個別に最大21ポイントの向上を達成した。

論文ではさらにアブレーション実験によりデータ構築戦略の影響を分析している。実験によれば、異種モデルがそれぞれ正例と負例のトレースを生成することで、対照学習の信号が強化されることが示された。加えて、自動評価と人手評価の双方から、生成された推論トレースのペアは全体として忠実かつ一貫しており、意味のある対照関係を形成していることが確認された。

本論文は2026年6月3日にarXivへ投稿され、番号は2606.05382、人工知能(cs.AI)分野に分類されている。その意義は、マルチテーブル質問応答に欠けていた推論監督を補うだけでなく、推論過程を人手で注釈付けすることなく、合成の対照データによってモデルの合成的推論能力を高める実現可能な道筋を示した点にある。複数のデータテーブルにまたがる複雑な照会と推論を必要とする質問応答システムにとって、この手法は高品質な推論注釈への依存を減らし、オープンウェイトモデルの学習に新たなデータ構築の視点をもたらす可能性がある。

要点と分析を開く

記事インテリジェンス

投資家上級

要点

  • マルチテーブル質問応答に欠けていた推論監督を補うため、正例と負例の推論トレースからなる合成の対照的推論トレースデータセットを構築
  • 得られた選好ペアを用い、Contrastive Preference Optimization(CPO)でオープンウェイトLLMを微調整
  • CPOは3モデルでQ&Aの教師あり微調整比9.7%〜16.3%の絶対平均改善、MMQAでは最大21ポイントの向上を実現
  • アブレーションにより異種の正例・負例トレース生成器が対照信号を強化することが示され、自動評価と人手評価の双方が生成ペアの忠実性・一貫性・対照性を概ね確認

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。