PlanE：抽出型LLMのためのデータ、チューニング、推論のメタプランニング
PlanEは、データ分解、指示チューニング、プロンプト推論を通じて抽出型LLMを構築する計画フレームワークを提案し、特定のデータセットに最適なベースLLMとその組み合わせを自動選択するDTIプランナーを導入。実験で有効性と汎用性を実証した。
arXivに2026年5月22日に提出された論文において、大規模言語モデル（LLM）の特定タスクへの適応における課題——膨大な指示チューニングデータによるアノテーションコストと最適化手法の欠如——に取り組むフレームワーク「PlanE」が提案されました。PlanEは「Extractive-based LLMのための計画フレームワーク」の略で、データ分解、指示チューニング、プロンプト推論の3つのステップから構成されます。
このフレームワークの中核となるのは、DTI（Data-Tuning-Inference）プランナーです。DTIプランナーは、与えられたデータセットに対して最適なベースLLMとそのデータ・チューニング・推論の組み合わせを自動的に選択し、モデル構築の効率を大幅に向上させます。実験では、同一ベースモデルで異なるデータセットを扱う場合と、同一データセットで異なるベースモデルを用いる場合の両方でPlanEの有効性が確認されました。さらに、DTIプランナーは異なる最適化目標の下でも汎用性を発揮することが示されました。
論文の著者はJiacheng Wang氏を含む3名であり、再現性を高めるためコードはGitHub（https://github.com/gugugu-469/PlanE）で公開されています。この研究は、低コストかつ効率的にLLMを特定タスクにカスタマイズする新たなアプローチを提供し、抽出タスクにおけるNLP分野の発展に大きく貢献することが期待されます。PlanEは、モデル選択や最適化の体系的な方法論を提供し、今後の研究開発に有用なツールとなるでしょう。