近日,一項關於低資源開源Text-to-SQL模型的研究在arXiv上發佈。該研究由Tianhao Qiu等人完成,旨在解決自然語言轉SQL查詢任務在低資源場景下的難題。
在現實應用中,Text-to-SQL系統常面臨高質量標註數據稀缺的困境,尤其對於特定領域的數據庫。此外,模式定義模糊、縮寫和不明確的業務邏輯也增加了任務難度。現有數據合成和提示技術雖能提升覆蓋率,但往往無法生成與數據庫約束對齊且語義正確的示例。
為此,研究者提出了一種知識感知的Text-to-SQL框架。該框架首先構建一個任務特定的知識庫,包含模式語義、縮寫、業務邏輯和查詢模式等信息。然後,在訓練階段利用該知識庫生成多樣化且上下文相關的合成數據;在推理階段,通過目標知識檢索增強模型性能。
實驗在七個通用和領域特定的基準數據集上進行。結果表明,該框架顯著提升了多種開源和閉源大語言模型在Text-to-SQL任務中的表現,尤其在低資源領域設置下,模型的泛化能力、魯棒性和適應性均得到改善。
該研究為解決低資源Text-to-SQL問題提供了新的思路,有望推動非技術用户對數據庫的便捷訪問。論文代碼和數據已公開,供後續研究使用。