本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

BEA 2026 共有タスク2におけるRETUYT-INCO:ドイツ語のルーブリックベース採点におけるメタプロンプティング

記事の要約

本論文では、BEA 2026 共有タスク「ドイツ語のルーブリックベース短解答採点」へのRETUYT-INCOチームの参加について述べる。チームはメタプロンプティング手法を導入した。これは、LLMが訓練セットの例からカスタムプロンプトを生成し、新しい解答を採点するものである。また、古典的な機械学習、オープンソースLLMのファインチューニング、様々なプロンプト手法も使用した。公式結果:Track1で8チーム中6位(QWK 0.729)、Track3で9チーム中4位(QWK 0.674)、Track4で8チーム中4位(QWK 0.49)。

ソースarXiv Computational Linguistics著者: Ignacio Sastre, Ignacio Remersaro, Facundo D\'iaz, Nicol\'as De Horta, Luis Chiruzzo, Aiala Ros\'a, Santiago G\'ongora
BEA 2026 共有タスク2におけるRETUYT-INCO:ドイツ語のルーブリックベース採点におけるメタプロンプティング
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

BEA 2026 共有タスク「ルーブリックベースのドイツ語短解答採点」において、RETUYT-INCOチームは革新的なメタプロンプティング手法を提案しました。このタスクでは、特定のルーブリックに従って学生の短い解答を採点することが求められ、チームはTrack 1(未見解答3値分類)、Track 3(未見解答2値分類)、Track 4(未見問題2値分類)の3つのトラックに参加しました。各トラックでは、問題ごとに異なるルーブリックが使用され、訓練セットにない解答や問題に対して一般化する必要がありました。

メタプロンプティングの核心は、大規模言語モデル(LLM)が訓練セットから例を抽出し、自動的にカスタマイズされたプロンプトを生成することです。このプロンプトは、新しい学生の解答を採点するために使用されます。具体的には、まず訓練セットから複数の例(問題、模範解答、学生解答を含む)を選択し、それらをLLM(例:GPT-4)に入力して採点用のプロンプトを生成させます。このプロンプトには、ルーブリックの詳細な説明と採点ロジックの例が含まれます。そして、生成されたプロンプトを別のLLM(または同じLLM)に与え、テストセットの解答を採点します。このメタ学習アプローチにより、モデルは異なる問題やルーブリックに迅速に適応できます。

メタプロンプティングに加えて、チームは古典的な機械学習(サポートベクターマシン、ランダムフォレストなど)、オープンソースLLM(BERT、XLM-Rなど)のファインチューニング、および様々なプロンプトエンジニアリング戦略(ゼロショットプロンプト、少数ショットプロンプト)も探求しました。これらの手法は比較のベースラインを提供し、メタプロンプティングがほとんどの状況で優れていることを示しました。特に、未見問題のトラック4では、メタプロンプティングの性能が顕著でした。

公式結果によると、RETUYT-INCOは3つのトラックすべてで中程度以上の順位を獲得しました。Track 1では8チーム中6位(二次重み付きカッパQWK 0.729)、Track 3では9チーム中4位(QWK 0.674)、Track 4では8チーム中4位(QWK 0.49)でした。トップの成績ではありませんが、メタプロンプティング手法は限られた訓練データでの効果的な採点の可能性を示しており、特に未見問題への一般化に強みがあります。

本論文は、ACL 2026と併催されるBEA 2026ワークショップで発表される予定です。研究者らは、将来的にメタプロンプト生成戦略をさらに最適化し(例えば、より高度な例選択アルゴリズム、多段階生成の導入)、他の言語や採点シナリオに拡張できると述べています。また、メタプロンプティングと微調整モデルの組み合わせにより、さらなる性能向上が期待されます。この研究は、自動採点分野に柔軟で効率的な方法を提供し、教育評価技術の進歩に貢献するものです。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • RETUYT-INCOはドイツ語ルーブリックベース採点のBEA 2026共有タスクの3つのトラックに参加した。
  • メタプロンプティングを提案:LLMが訓練例からカスタムプロンプトを生成。
  • 他に古典的ML、オープンソースLLMのファインチューニング、プロンプト手法を試行。
  • 最高成績:Track3とTrack4で4位、Track1で6位。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。