決算説明会は、上場企業の財務情報を入手するための重要な情報源ですが、米国証券取引委員会(SEC)に提出されるテンプレート化された書類とは異なり、構造化されておらず、会話的な言語が使われているため、情報抽出が困難です。本研究では、SEC提出書類で訓練されたモデルとインコンテキスト学習手法を用いて、この課題に取り組みました。まず、既存のSECデータセットにおけるSEC訓練モデルの汎化性能を評価し、ベースラインを確立しました。次に、3つの新しいベンチマーク(SECB、ECB、および2460の専門家アノテーショングループを含むECB-A)を導入し、エンコーダベースのモデルがドメインシフトに苦戦することを明らかにしました。最後に、大規模言語モデル(LLM)を活用して非構造化の議事録からオープンエンドな抽出を行うシステムを提案し、人間による評価で79.7%の精度を達成しました。このシステムは、新興KPIを一貫して追跡するためのベースラインを提供し、貴重なドメインへの応用が期待されます。本論文はACL Industry Trackに採択されており、金融テキストからの情報抽出の重要性が認識されていることを示しています。特に、LLMの活用は従来のエンコーダモデルの限界を克服し、複雑な会話文からも有用なKPIを抽出できる可能性を示しています。これにより、投資家やアナリストは決算説明会からより迅速かつ正確に企業の業績動向を把握できるようになるでしょう。また、提案されたベンチマークは今後の研究の比較基準としても活用され、この分野の発展に貢献することが期待されます。
効果的な業績測定:決算説明会からのKPI抽出における課題と機会
記事の要約
本論文では、非構造化された決算説明会の書き起こしから重要業績評価指標(KPI)を抽出する際の課題を探っています。著者らはSEC提出書類で訓練されたモデルを評価し、3つの新しいベンチマーク(SECB、ECB、ECB-A)を導入し、エンコーダベースのモデルがドメインシフトに苦戦することを発見しました。最終的に、人間による評価で79.7%の精度を達成するLLMベースのシステムを提案し、新興KPIの追跡のベースラインを提供しています。
ソースarXiv Computational Linguistics著者: Rasmus T. Aavang, Rasmus Tjalk-B{\o}ggild, Alexandre Iolov, Giovanni Rizzi, Mike Zhang, Johannes Bjerva
効果的な業績測定:決算説明会からのKPI抽出における課題と機会