Prior-Data Fitted networks（PFN）は表データの分野で大きな成功を収めており、コンテキスト内で予測タスクを処理することができる。しかし、既存のPFNはシングルタスク推論用に設計されているため、同一コンテキスト内で複数の目標値を予測するには繰り返しフォワードコールが必要となり、タスク間の情報共有が妨げられるという問題があった。
この課題に対して、Cormac CuretonとNarges Armanfardは2026年5月16日にarXivに提出した論文でTabPFN-MTを提案した。このモデルは、拡張された多目標合成事前分布で訓練されることにより、コンテキスト内のタスク間依存関係を捉える。具体的には、拡張されたyエンコーダと共有デコーダヘッドを使用することで、マルチタスク・インコンテキスト学習と同時推論を可能にしている。従来の勾配ベースの訓練ではなくインコンテキスト学習に依存しているため、平均サンプル数が1,000未満の中小規模データセットに特に適している。
著者らは344のデータセットで広範な評価を実施し、TabPFN-MTが深層表データマルチタスク学習の新たな最先端を確立したことを示した。共同最適化に固有の計算非対称性があるにもかかわらず、このモデルは最新のシングルタスクアンサンブル手法と高い競争力を維持している。特筆すべきは、マルチタスクデータセットにおいて総合精度ランク4.89を達成し、全テストモデルの中で最高の平均ランクを記録した点である。
最も重要なのは、TabPFN-MTがこの競争力の高い性能を提供しながら、Tタスクの推論コストをO(T)回のフォワードパスからO(1)回に削減していることだ。これは、複数の目標を同時に予測する必要がある表データアプリケーションにとって、計算効率の大幅な向上を意味する。論文は24ページ、7つの図を含み、機械学習（cs.LG）および人工知能（cs.AI）の分野に属する。