バイトダンス研究：長文書訓練におけるLMMへの質問が文字起こしより効果的であることを発見

バイトダンスSeedと香港科技大学の研究により、マルチモーダルモデルの長文書処理訓練において、質問応答ペアが文字認識タスクよりもはるかに効果的であることが示された。開発されたMMProLongはQwen2.5-VLをベースに、512,000トークンの入力まで安定して動作し、より大規模なモデルを凌駕する。訓練データの長さの多様性が重要で、短文例は必須ではない。