本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

低リソース環境向けオープンソースText-to-SQLモデルのための知識蒸留

記事の要約

本論文は、スキーマ意味論、略語、ビジネスロジック、クエリパターンを含むタスク固有の知識ベースを構築し、訓練と推論の両方に注入する知識認識型Text-to-SQLフレームワークを提案する。低リソースのドメイン固有設定における性能を大幅に向上させる。

ソースarXiv Computational Linguistics著者: Tianhao Qiu, Xiaojun Chen
低リソース環境向けオープンソースText-to-SQLモデルのための知識蒸留
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

自然言語からSQLへの変換(Text-to-SQL)は、ユーザーの自然言語による質問を実行可能なSQLクエリに変換するタスクであり、技術者でないユーザーでもリレーショナルデータベースにアクセスして分析やインテリジェントなデータサービスを利用できるようにする。しかし実際のシナリオでは、高品質な注釈付きデータペアが不足する低リソース設定、特にドメイン固有のデータベースにおいて性能が制約されることが多い。さらに、スキーマ定義が不透明であったり、略語や暗黙のビジネスロジックがスキーマに明示的にエンコードされていなかったりするという課題もある。

既存のデータ合成やプロンプティング技術はカバレッジを向上させるものの、データベースの制約に沿ったタスク固有で意味的に接地した例を生成するには至らないことが多い。この課題に対処するため、本論文では知識認識型のText-to-SQLフレームワークを提案する。このフレームワークは、スキーマ意味論、略語、ビジネスロジック、クエリパターンを含むタスク固有の知識ベースを構築し、それを訓練と推論の両方に注入する。具体的には、知識ベースを利用して多様で文脈に基づいた合成訓練データを生成するとともに、推論時には標的を絞った知識検索によってモデルを強化する。

実験は、汎用データセットとドメイン固有データセットの両方を含む7つのベンチマークで実施された。結果として、本手法はオープンソースおよびクローズドソースの大規模言語モデルにおいてText-to-SQLタスクの性能を大幅に向上させ、特に低リソースのドメイン固有設定で顕著な改善を示した。全体として、このフレームワークはモデルの汎化能力、堅牢性、適応性を高める。

本論文はTianhao Qiuらによって2026年5月13日にarXivに投稿され、識別子はarXiv:2605.22843v1、cs.CL(計算と言語)およびcs.IR(情報検索)に分類されている。全文は17ページ、図5点で構成されている。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • スキーマ意味論、略語、ビジネスロジック、クエリパターンを含むタスク固有の知識ベースを構築
  • 多様で文脈に基づいた合成訓練データを生成し、標的を絞った知識検索により推論を強化
  • 7つのベンチマークでオープンソースおよびクローズドソースのLLMのText-to-SQL性能を大幅に改善、特に低リソースのドメイン設定で有効

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。