跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

學習何時推理:基於SFT和DPO的Text-to-SQL方法

文章摘要

提出AutoThinkSQL框架,通過監督微調(SFT)和直接偏好優化(DPO)集成自動推理機制,使模型對簡單查詢繞過推理,對複雜查詢使用深度思維鏈,在Spider和BIRD基準上取得一致提升,同時減少輸出令牌和延遲。

來源arXiv Computational Linguistics作者: Soohyuk Jang, Jiheum Yeom, Nohil Park, Sang Hun Kim, Yoonyoung Choi, Kiwook Bae, Sungroh Yoon
學習何時推理:基於SFT和DPO的Text-to-SQL方法
報告錯誤

更正渠道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

文本到SQL(Text-to-SQL)技術旨在將自然語言查詢轉換為可執行的SQL語句,是自然語言處理與數據庫交互領域的重要研究方向。近年來,以思維鏈(Chain-of-Thought, CoT)為代表的推理型方法在複雜查詢上取得了顯著突破,但其推理過程帶來的計算開銷不容忽視。現實應用中,大量查詢僅涉及簡單的單表查找或聚合運算,強制模型執行完整的推理鏈條不僅浪費算力,還增加了用户等待時間。

為應對這一挑戰,來自研究團隊的Soohyuk Jang等人提出了AutoThinkSQL框架。該框架創新性地將自動思考機制(auto-thinking mechanism)整合到監督微調(SFT)和直接偏好優化(DPO)兩個階段中。在訓練過程中,模型學習根據查詢的複雜度動態決策是否啓動推理流程。具體而言,對於判別為簡單的查詢,模型會跳過推理步驟直接輸出SQL;而對於複雜查詢,則自動啓用深度CoT進行逐步推理。這種自適應策略在保證模型處理複雜查詢能力的同時,大幅降低了簡單查詢的資源消耗。

AutoThinkSQL的另一個亮點是其訓練方法。研究者利用DPO來優化模型的推理決策偏好,使模型能夠更精準地判斷何時需要推理。實驗在Qwen3-Coder-30B-A3B模型上進行,選用業界標準的Spider和BIRD兩個基準數據集。結果顯示,AutoThinkSQL在兩項基準上的表現均超過了現有最強基線方法。更重要的是,與純CoT生成模式相比,該框架在Spider數據集上平均減少輸出令牌約24.6%,在BIRD數據集上減少約18.3%,同時推理延遲分別降低了17.1%和11.5%。進一步的顯著性分析證實,模型確實學會了根據查詢難度調整推理深度:簡單查詢幾乎不觸發推理,而困難查詢則會啓動深度思考鏈。

該工作的代碼和模型檢查點已公開,為Text-to-SQL社區提供了一個兼顧性能與效率的新方案。AutoThinkSQL的思路對於其他需要動態推理的NLP任務同樣具有借鑑意義。隨着大模型在真實場景中的廣泛應用,如何在保證準確性的前提下降低推理成本已成為關鍵問題,AutoThinkSQL的提出正是對這一需求的有力回應。

展開要點與分析

文章情報

工程師進階

要點

  • AutoThinkSQL動態決定是否使用推理,避免簡單查詢不必要的計算開銷。
  • 在Qwen3-Coder-30B-A3B模型上,相比純CoT,輸出令牌減少約24.6%和18.3%,延遲降低17.1%和11.5%。
  • 模型學會根據查詢難度自動調整推理策略。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。