本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

SFTとDPOを用いたText-to-SQLにおける推論タイミングの学習

記事の要約

AutoThinkSQLフレームワークを提案。SFTとDPOに自動思考機構を統合し、単純なクエリでは推論をバイパス、複雑なクエリでは深いCoTを呼び出す。SpiderとBIRDベンチマークで一貫した改善を達成し、出力トークンとレイテンシを削減。

ソースarXiv Computational Linguistics著者: Soohyuk Jang, Jiheum Yeom, Nohil Park, Sang Hun Kim, Yoonyoung Choi, Kiwook Bae, Sungroh Yoon
SFTとDPOを用いたText-to-SQLにおける推論タイミングの学習
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

テキストからSQLを生成するText-to-SQL技術は、自然言語処理とデータベースインタラクションの重要な研究分野です。近年、チェーン・オブ・ソート(CoT)に代表される推論重視のパラダイムが複雑なクエリにおいて大きな成果を上げていますが、その推論プロセスには高い計算コストが伴います。現実のアプリケーションでは、単一テーブルの参照や集計といった単純なクエリが大半を占めており、すべてのクエリに対して強制的に推論を実行することは、計算リソースの無駄遣いであり、ユーザーの待ち時間を増大させます。

この課題に取り組むため、Soohyuk Jang氏らはAutoThinkSQLフレームワークを提案しました。このフレームワークは、教師ありファインチューニング(SFT)と直接選好最適化(DPO)の両方に自動思考機構(auto-thinking mechanism)を統合する革新的なアプローチです。訓練中、モデルはクエリの複雑さに応じて推論を開始するかどうかを動的に判断することを学習します。具体的には、単純なクエリと判断された場合は推論ステップをスキップして直接SQLを出力し、複雑なクエリに対しては自動的に深いCoTを起動して段階的に推論します。この適応戦略により、複雑なクエリに対する処理能力を維持しつつ、単純なクエリのリソース消費を大幅に削減します。

AutoThinkSQLのもう一つの特徴は、その訓練手法にあります。研究者はDPOを用いてモデルの推論決定の選好を最適化し、いつ推論すべきかをより正確に判断できるようにしました。実験はQwen3-Coder-30B-A3Bモデルで行われ、業界標準のSpiderおよびBIRDベンチマークを使用しました。結果は、AutoThinkSQLが両ベンチマークにおいて既存の最強ベースラインを上回る一貫した改善を示しました。さらに重要なのは、CoTのみの生成と比較して、Spiderデータセットでは出力トークンが平均約24.6%、BIRDデータセットでは約18.3%削減され、推論レイテンシはそれぞれ17.1%および11.5%低減されたことです。追加の分析により、モデルがクエリの難易度に応じて推論の深さを調整することを学習したことが確認されました。単純なクエリでは推論がほとんど発生せず、困難なクエリでは深い思考チェーンが起動されました。

この研究のコードとモデルチェックポイントは公開されており、Text-to-SQLコミュニティに性能と効率のバランスをとる新しいソリューションを提供します。AutoThinkSQLの考え方は、動的な推論が必要な他のNLPタスクにも応用可能です。大規模モデルが実世界のシナリオで広く使われるようになるにつれ、精度を維持しながら推論コストを削減することが重要な課題となっており、AutoThinkSQLはその要求に応えるものです。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • AutoThinkSQLはクエリの難易度に応じて推論の使用を動的に決定。
  • Qwen3-Coder-30B-A3Bにおいて、CoTのみと比較して出力トークンを約24.6%および18.3%削減、レイテンシを17.1%および11.5%削減。
  • モデルはクエリの難易度に合わせて推論戦略を調整することを学習。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。