2026年6月25日にarXivに投稿された論文「因果関係の接続：多言語ファインチューニングによる金融QAの向上@FinCausal 2026」では、Akash Kumar GautamらによるHSA_CORALチームがFinCausal 2026共有タスクへの参加方法を詳述している。このタスクの目的は、英語とスペイン語の金融ナラティブから抽出型質問応答を通じて因果関係を識別することである。
研究チームは3つの異なるモデリングアプローチを体系的に比較した。第一は、多言語BERTを用いたトークンタグ付けによるエンコーダのみのアーキテクチャ。第二は、多言語BARTを用いた生成ベースのエンコーダ・デコーダアーキテクチャ。第三は、Llama 3.1やGPTシリーズなどのデコーダのみの大規模言語モデルであり、プロンプトの改善、少数ショットのデモンストレーション、教師ありファインチューニングによって適応させた。
実験結果によると、プロンプトエンジニアリングと少数ショット例は競争力のある性能を示すが、教師ありファインチューニングによる改善が最も顕著であった。チームの最良システムはGPT-4.1 Miniを英語とスペイン語の統合トレーニングデータでファインチューニングしたものである。共有タスクのLLM-as-a-judge評価指標の下で、このシステムは英語サブタスクで4.8140点を獲得し同率最高位、スペイン語サブタスクでは4.7753点で3位となった。
この結果は、金融因果関係QAのような深い意味理解を必要とする領域において、タスク固有の適応と多言語ファインチューニングがクロスリンガル転移に果たす重要性を強調している。本論文はLREC 2026と併催された第7回金融ナラティブ処理ワークショップ（FNP 2026）で発表され、132-138ページに掲載されている。この研究は、金融テキストにおける因果関係抽出のための貴重なベンチマークと方法論的洞察を提供するものである。