跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

面向多表问答的合成对比推理

文章摘要

该论文为MMQA数据集构建了一个合成对比推理轨迹数据集,利用异构大语言模型生成经过验证的正向推理轨迹与看似合理的负向推理轨迹。研究者使用这些偏好对,通过对比偏好优化(CPO)对开放权重模型进行微调,在Qwen3-14B、Mistral-8B和Llama-3.1-8B上相较问答监督微调取得了9.7%至16.3%的绝对平均提升,在MMQA上的增益最高达21个百分点。

来源arXiv AI作者: Ankit Pratap Singh, Xin Su, Phillip Howard
面向多表问答的合成对比推理
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

多表问答(Multi-table Question Answering)要求模型从多张关系表中检索相关证据、关联表结构(schema),并在多个表之间执行组合式推理。与单表问答相比,这类任务不仅考察模型对问题的理解能力,还考验其定位正确数据、对齐不同表字段以及逐步推导最终答案的能力。然而,现有的多表问答资源通常只提供问题与最终答案,缺少解释答案如何被推导出来的推理监督信号。这一缺口使得模型在训练过程中难以学习到可复用的解题路径,往往依赖浅层模式匹配而非真正的多步推理。

针对这一问题,论文作者构建了一个面向 MMQA 数据集的合成对比推理轨迹(contrastive reasoning-trace)数据集。其核心思路是借助多种异构的大型语言模型(heterogeneous LLMs)分别生成经过验证的正向推理轨迹,以及看似合理但实际存在错误的负向推理轨迹。正向轨迹代表能够正确从表中检索证据并逐步推导出答案的完整推理过程;负向轨迹则在结构上相似但在关键步骤上出现偏差,从而形成有意义的对比。随后,作者将正负轨迹配对为偏好对(preference pairs),用于以对比偏好优化(Contrastive Preference Optimization,CPO)对开源权重模型进行微调。

实验覆盖了 Qwen3-14B、Mistral-8B 与 Llama-3.1-8B 三种模型。结果显示,相较于仅使用问答监督微调(Q&A supervised fine-tuning),CPO 在平均指标上取得了 9.7% 至 16.3% 的绝对提升,而在 MMQA 上的单项增益最高可达 21 个百分点。这表明,引入推理轨迹层面的对比监督能够显著增强模型在多表场景下的组合推理能力,而不仅仅是对答案分布的记忆。

论文还进行了消融实验,验证了对比信号的来源。结果表明,使用异构模型分别生成正向与负向轨迹能够强化对比信号,即不同模型带来的多样性有助于构造出更具区分度的偏好对。除自动评估外,作者还开展了人工评估,结果显示生成的轨迹对在忠实性、连贯性方面总体表现良好,并且正负样本之间具有明显的对比意义。

该工作由 Ankit Pratap Singh 等三位作者完成,于 2026 年 6 月 3 日提交至 arXiv,属于人工智能(cs.AI)分类,论文编号为 arXiv:2606.05382。其贡献在于为多表问答提供了一种可扩展的推理监督数据构造方式,并通过实验证明对比偏好优化能够有效利用这类合成数据提升开源模型的表现。对于需要跨表检索与多步推理的应用场景而言,这一方法为在缺乏人工标注推理过程的情况下训练更强的问答模型提供了可行路径。

展开要点与分析

文章情报

投资人进阶

要点

  • 论文为多表问答构建了包含正负推理轨迹的合成对比推理轨迹数据集,以弥补推理监督的缺失
  • 采用对比偏好优化(CPO)利用偏好对微调开放权重模型
  • 相较问答监督微调,CPO在三个模型上取得9.7%至16.3%的绝对平均提升,单项增益最高达21个百分点
  • 消融实验显示,异构的正、负轨迹生成器能增强对比信号;自动与人工评估均表明生成的数据对基本忠实、连贯且具有对比意义

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。