arXiv 于 2026 年 4 月 30 日发布了一篇新论文《Know2Guess: A Contamination-Aware Multi-Zone Benchmark for Knowledge-Boundary Evaluation in Large Language Models》,作者为 Renwei Meng 及另外六位合作者,提交编号为 arXiv:2606.26101v1,归类于计算与语言(cs.CL)与人工智能(cs.AI)两个分类,全文共 16 页、含 3 幅图。该研究关注的核心问题是:如何可靠地评估大语言模型,使之能够区分「有依据的回答」与「缺乏依据的猜测」,同时又不把这种区分与数据污染、提示词特例性(prompt idiosyncrasy)或笼统的拒答行为混为一谈。
为此,作者提出了一个「污染感知」(contamination-aware)、多区间(multi-zone)的基准测试,用于测量模型从「可回答的知识」过渡到「应预期弃答的未知项」这一过程。该基准基于在构建阶段就冻结(frozen build-time labels)的标签,从而避免评测过程中标签被事后调整。基准共包含 1,200 个测试项,覆盖五个领域,并附带明确的弃答预期(explicit abstention expectations)以及污染风险元数据(contamination-risk metadata)。在解析方式上,基准采用双重解析机制:一个是官方的严格解析器,另一个是经过归一化处理的鲁棒性解析器,以便考察结论对解析方式的敏感程度。
在实验设计上,研究者评估了 FLAN-T5、Qwen2.5-Instruct 与 Llama-3-Instruct 三个模型家族,测试条件包括锁定为「回答或弃答」的提示词(locked answer-or-abstain prompts)、仅要求回答的对照组(answer-only controls),以及若干提示词模板变体。结果显示,该基准并不能被「笼统地不作答」这种行为轻易通过:FLAN 基线在「有生产性的弃答」(productive abstention,即恰当地选择弃答)上表现依然偏弱,而更强的指令微调模型则展现出一种选择性但尚不完整的、从作答到弃答的转变能力。
在整体可靠性上,Qwen2.5-3B-Instruct 取得了最佳成绩,但研究也指出仍存在明显不足:预期应当回答的区间(answer-expected zones)依旧困难,模型的校准(calibration)表现仍然较差,并且对无害条目(benign items)的拒答现象持续存在。作者还针对提示词与解析器做了鲁棒性分析,结果表明主要排名与定性结论在这些变化下基本保持一致。
作者认为,该基准为审计大语言模型可靠性中几个既相互区别又相互作用的维度——可回答性、弃答、拒答与数据污染——提供了一个可复现的评测协议。数据集已在 GitHub 公开,地址为 https://github.com/renweimeng/Know2Guess-A-Contamination-Aware-Multi-Zone-Benchmark,论文 DOI 为 https://doi.org/10.48550/arXiv.2606.26101,由 DataCite 发放。论文的完整版本可通过 PDF 与 HTML(实验性)页面获取,也可下载 TeX 源码并查看许可协议。