跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

RETUYT-INCO在BEA 2026共享任务2中的表现:基于元提示的德语短答案评分

文章摘要

本文介绍了RETUYT-INCO团队在BEA 2026共享任务“基于评分标准的德语短答案评分”中的参与情况。团队提出了元提示方法,即让大语言模型根据训练集示例生成自定义提示,用于评分新答案。此外,还探索了经典机器学习、微调开源大语言模型和不同提示技术。官方结果显示,团队在Track 1(8支队伍中排名第6,QWK 0.729)、Track 3(9支队伍中排名第4,QWK 0.674)和Track 4(8支队伍中排名第4,QWK 0.49)中取得了成绩。

来源arXiv Computational Linguistics作者: Ignacio Sastre, Ignacio Remersaro, Facundo D\'iaz, Nicol\'as De Horta, Luis Chiruzzo, Aiala Ros\'a, Santiago G\'ongora
RETUYT-INCO在BEA 2026共享任务2中的表现:基于元提示的德语短答案评分
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

在BEA 2026共享任务“基于评分标准的德语短答案评分”中,RETUYT-INCO团队提出了创新的元提示方法。该任务要求根据特定评分标准对学生的短答案进行打分,涉及三个赛道:Track 1(未见过答案的三分类评分)、Track 3(未见过答案的二分类评分)和Track 4(未见过问题的二分类评分)。这些赛道具有挑战性,因为评分标准因问题而异,且测试集中的答案或问题在训练集中从未出现。

元提示方法的核心是让大语言模型(LLM)从训练集中提取示例,自动生成一个定制的提示。这个提示随后被用于对新的学生答案进行评分。相比手动构建提示,该方法能够自适应任务变化,提高评分的准确性和一致性。具体来说,团队首先从训练集中选取若干示例(包括问题和对应的参考答案及学生答案),然后利用一个LLM(如GPT-4)根据这些示例生成一个评分提示。该提示包含了评分标准的详细描述和示例评分逻辑。最后,这个生成的提示被用于另一个LLM(或同一个LLM)对测试集中的答案进行评分。这种元学习的方式使得模型能够快速适应不同的问题和评分标准。

除了元提示,团队还探索了多种其他技术,包括经典机器学习模型(如支持向量机、随机森林)、微调开源LLM(如BERT、XLM-R)以及不同的提示工程策略(如零样本提示、少样本提示)。这些方法为比较提供了基准,也展示了元提示在大多数情况下的优越性。实验表明,元提示在跨问题泛化方面表现尤为突出,特别是在Track 4(未见过问题)中,其性能优于其他方法。

官方结果公布后,RETUYT-INCO在三个赛道中均取得了中等偏上的排名。Track 1中,团队在8支参赛队伍中排名第6,二次加权卡帕(QWK)得分为0.729;Track 3中,在9支队伍中排名第4,QWK为0.674;Track 4中,在8支队伍中排名第4,QWK为0.49。尽管排名并非顶尖,但元提示方法展示了在有限训练数据下进行有效评分的潜力,特别是在未见问题的场景中。

该论文将在与ACL 2026联合举办的BEA 2026研讨会上展示。研究者认为,未来的工作可以进一步优化元提示的生成策略,例如使用更先进的示例选择算法、引入多轮迭代生成,以及扩展到其他语言和评分场景。此外,将元提示与微调模型结合可能带来进一步的性能提升。这项研究为自动化评分领域提供了一种灵活且高效的方法,有望推动教育评估技术的进步。

展开要点与分析

文章情报

工程师进阶

要点

  • RETUYT-INCO参加了BEA 2026德语短答案评分共享任务的三个赛道。
  • 提出了元提示方法:利用大语言模型基于训练示例生成自定义评分提示。
  • 还采用了经典机器学习、微调开源大语言模型和多点提示技术。
  • 最佳成绩:在Track 3和Track 4中获得第4名,Track 1中获得第6名。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。