構造化情報検索において、質問に答えるための関連テーブルを検索する能力は重要な課題である。多段階検索システムは、効率的な一次検索器が生成した候補リストを洗練するために再ランク付け器に大きく依存している。ニューラル再ランク付け器やLLMベースの再ランク付け手法は、従来のスパースやデンス検索モデルと比較して優れた意味理解と推論能力を持つため、ますます重要になっている。最近では、明示的な思考連鎖（CoT）推論を備えた大規模推論モデル（LRM）が、非構造化パッセージ検索においてランク品質の大幅な向上を示している。
本研究では、表形式検索向けの推論型再ランク付け器を訓練するフレームワーク「TabRank」を提案する。まず、Natural Questions Tablesデータセット上でテーブル再ランク付けのための6,728の推論トレースからなる包括的なデータセットを構築した。各トレースは、候補テーブルから正しい答えを推論する論理的なステップを詳細に記録しており、テーブル構造の理解、数値計算、事実のマッチングなど様々な推論タイプをカバーしている。このデータセットは、その後のモデル訓練に高品質な教師信号を提供する。次に、これらの推論トレースを用いてコンパクトな推論モデルを訓練する2つの手法を探る：明示的CoT蒸留と条件付き蒸留である。明示的CoT蒸留は、教師モデル（LRM）の完全な推論チェーンを目標として、学生モデルに同様の推論ステップを出力させてからランク結果を生成させる。条件付き蒸留は、教師の推論トレースをプロンプトに埋め込み、学生モデルが推論を生成する際に教師の振る舞いを参照させることで、効率を保ちながらランク精度を向上させる。
TabRankを多様なドメインや複数テーブルシナリオにおける複数の分布外一般化設定でストレステストした。我々のアプローチは、様々なテーブル検索データセットで性能を大幅に向上させ、ベースモデルと比較して、マルチテーブルQAベンチマークのHybridQAでAcc@10を30.5%、SQAで15.2%、TabFactで52.9%、TATQAで13.1%改善した。特筆すべきは、TabRankが複数テーブルの推論にも効果的に一般化することである。例えば、複数のテーブルを同時に検索・統合する必要がある複雑なクエリにおいて、TabRankはテーブル間の関連性を効果的に推論し、正確なランク付けを行うことができる。
コード、データ、モデルはhttps://github.com/AdarshSingh7647/TabRankerで公開されており、テーブル検索分野のさらなる研究のための強力なツールを提供する。この研究は、構造化データ検索における推論蒸留の有効性を検証するだけでなく、将来的により効率的でインテリジェントなテーブル質問応答システムの構築に向けた基盤を築くものである。ビジネスインテリジェンスや科学研究データ分析などの分野でテーブルデータの重要性が高まる中、TabRankは関連アプリケーションの発展を促進することが期待される。