跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

Review Arcade:论LLM审稿的人类对齐性与可博弈性

文章摘要

一项针对2025年ACL滚动评审(ARR)论文的实证研究发现,LLM生成的审稿意见与人类审稿仅存在有限对齐,且对齐程度随提示词和模型大幅波动;作者若按LLM审稿进行迭代修改,可使最多35%的论文整体得分获得统计显著提升。

来源arXiv AI作者: Hans Ole Hatzel, Sebastian Steindl, Jan Strich
Review Arcade:论LLM审稿的人类对齐性与可博弈性
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

随着大语言模型生成的论文审稿意见日益普及,甚至已被主要学术会议正式试点,审稿流程中的公平性与可靠性问题正变得越来越紧迫。Hans Ole Hatzel等三位作者提交的论文《Review Arcade:论LLM审稿的人类对齐性与可博弈性》正是在这一背景下展开的实证研究,稿件于2026年5月27日提交至arXiv,标注为cs.AI与cs.MA方向,并注明正在EMNLP 26审稿中。

研究的基本前提是:不仅要假设审稿人可能借助LLM辅助评审,还要假设作者在投稿前也会使用LLM来修改论文。也就是说,评审与投稿两端都可能被同一类模型影响,这使得单纯讨论“LLM能否替代人类审稿”已不足以覆盖真实风险。

为此,作者选取2025年ACL Rolling Review(ARR)中的论文进行实验,分别从审稿人和作者两个视角评估LLM审稿的表现。在审稿人视角下,研究首先考察LLM意见与人类意见的一致性,结果发现二者对齐程度有限:即便在最好的情况下,对齐也只能算得上“合理”,远未达到可以放心替代人类判断的水平。更值得注意的是,这种对齐程度在不同提示词与不同模型之间波动显著,说明LLM审稿的质量高度依赖于具体配置,而非某种稳定的能力。

在作者视角下,研究进一步模拟了一种迭代的“草稿—修改”工作流:作者依据LLM给出的审稿意见反复修改投稿,再看分数是否改善。结果显示,这种针对LLM审稿的“博弈”在特定场景下确实有效,最多有35%的论文因此获得整体评分的统计显著提升。这一发现意味着,LLM审稿不仅可能判断不准,还可能被系统性地利用——作者只要针对模型偏好的方向调整论文,就能在不真正提升研究质量的情况下抬高分数。

两项发现合在一起,勾勒出一个值得警惕的循环:LLM审稿与人类判断并不完全一致,却又能被作者通过迭代修改加以迎合,从而在评审体系中制造出与实际学术价值脱节的分数信号。对于正在试点LLM审稿的会议而言,这意味着需要审慎设计使用方式,例如限制作者与审稿流程之间的模型互动、对提示词与模型选择进行标准化,以及监控分数提升是否来自实质改进。作者已公开代码(https://github.com/uhh-hcds/reviewarcade),便于社区复现与扩展相关实验。

展开要点与分析

文章情报

工程师进阶

要点

  • LLM审稿与人类审稿的对齐程度总体有限,最佳情况下才算合理,且因提示词与模型不同而差异巨大。
  • 作者利用LLM审稿进行『草稿—修改』迭代,在特定场景下能有效“博弈”分数,最多35%的论文得分显著上升。
  • 该研究基于2025年ACL Rolling Review(ARR)的论文开展实证实验,代码已开源。
  • 论文标注为EMNLP 26在审,反映出主流会议正试点LLM审稿的现实背景。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。