跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

Know2Guess:面向大语言模型知识边界评估的污染感知多区域基准

文章摘要

该论文提出Know2Guess基准,包含1200个跨五领域题目,区分可回答、应弃权与污染风险,并评估FLAN-T5、Qwen2.5和Llama-3系列模型。结果显示模型在“生产性弃权”上表现有限,校准仍差,良性拒绝持续存在。

来源arXiv Computational Linguistics作者: Renwei Meng, Bowen Zhang, Jian Wang, Xican Wang, Haoyi Wu, Xuanyan Qiu, Shengan Yang
Know2Guess:面向大语言模型知识边界评估的污染感知多区域基准
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

arXiv 于 2026 年 4 月 30 日发布了一篇新论文《Know2Guess: A Contamination-Aware Multi-Zone Benchmark for Knowledge-Boundary Evaluation in Large Language Models》,作者为 Renwei Meng 及另外六位合作者,提交编号为 arXiv:2606.26101v1,归类于计算与语言(cs.CL)与人工智能(cs.AI)两个分类,全文共 16 页、含 3 幅图。该研究关注的核心问题是:如何可靠地评估大语言模型,使之能够区分「有依据的回答」与「缺乏依据的猜测」,同时又不把这种区分与数据污染、提示词特例性(prompt idiosyncrasy)或笼统的拒答行为混为一谈。

为此,作者提出了一个「污染感知」(contamination-aware)、多区间(multi-zone)的基准测试,用于测量模型从「可回答的知识」过渡到「应预期弃答的未知项」这一过程。该基准基于在构建阶段就冻结(frozen build-time labels)的标签,从而避免评测过程中标签被事后调整。基准共包含 1,200 个测试项,覆盖五个领域,并附带明确的弃答预期(explicit abstention expectations)以及污染风险元数据(contamination-risk metadata)。在解析方式上,基准采用双重解析机制:一个是官方的严格解析器,另一个是经过归一化处理的鲁棒性解析器,以便考察结论对解析方式的敏感程度。

在实验设计上,研究者评估了 FLAN-T5、Qwen2.5-Instruct 与 Llama-3-Instruct 三个模型家族,测试条件包括锁定为「回答或弃答」的提示词(locked answer-or-abstain prompts)、仅要求回答的对照组(answer-only controls),以及若干提示词模板变体。结果显示,该基准并不能被「笼统地不作答」这种行为轻易通过:FLAN 基线在「有生产性的弃答」(productive abstention,即恰当地选择弃答)上表现依然偏弱,而更强的指令微调模型则展现出一种选择性但尚不完整的、从作答到弃答的转变能力。

在整体可靠性上,Qwen2.5-3B-Instruct 取得了最佳成绩,但研究也指出仍存在明显不足:预期应当回答的区间(answer-expected zones)依旧困难,模型的校准(calibration)表现仍然较差,并且对无害条目(benign items)的拒答现象持续存在。作者还针对提示词与解析器做了鲁棒性分析,结果表明主要排名与定性结论在这些变化下基本保持一致。

作者认为,该基准为审计大语言模型可靠性中几个既相互区别又相互作用的维度——可回答性、弃答、拒答与数据污染——提供了一个可复现的评测协议。数据集已在 GitHub 公开,地址为 https://github.com/renweimeng/Know2Guess-A-Contamination-Aware-Multi-Zone-Benchmark,论文 DOI 为 https://doi.org/10.48550/arXiv.2606.26101,由 DataCite 发放。论文的完整版本可通过 PDF 与 HTML(实验性)页面获取,也可下载 TeX 源码并查看许可协议。

展开要点与分析

文章情报

投资人进阶

要点

  • 基准含1200题,覆盖五个领域,标注弃权预期与污染风险元数据,并采用严格与归一化双解析器。
  • FLAN基线在主动弃权上表现弱,指令微调模型展现选择性但不完整的从回答到弃权过渡。
  • Qwen2.5-3B-Instruct整体可靠性最佳,但答案期望区仍难、校准差且良性项拒绝持续。
  • 提示模板与解析器稳健性分析保持主要排名与定性结论,数据集已公开。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。