評估推理模型處理帶有預設的查詢

數百萬用户依賴AI模型獲取信息，但用户查詢中常包含事實錯誤的假設。早期研究已經指出，大語言模型（LLM）往往無法質疑這些錯誤假設，反而可能強化用户的錯誤觀點。然而，隨着模型推理能力的最新進展，來自印度科學研究所（Indian Institute of Science）的研究團隊Rose Sathyanathan、Kinshuk Vasisht和Danish Pruthi重新評估了大型推理模型（LRM）處理預設查詢的能力。他們構建了一個涵蓋健康、科學和常識領域的查詢數據集，其中包含不同強度的預設（presuppositions）。這些預設從弱到強，例如在健康領域預設某種治療的有效性。研究團隊測試了多個廣泛部署的模型，包括推理模型（如某些思維鏈模型）和非推理模型。結果顯示，相比非推理模型，推理模型的準確率僅提升2-11%，但仍然無法反駁26-42%的錯誤預設。更值得警惕的是，推理模型對預設的表達強度高度敏感：預設越強烈，模型越容易接受錯誤。這一發現表明，儘管推理能力有所進步，但模型在處理用户錯誤前提時仍存在顯著不足。該研究已被ACL 2026 Findings接收，為未來模型改進指明瞭方向。此外，研究還指出，用户查詢中的預設往往隱含在問題中，例如“為什麼疫苗會導致自閉症？”這種問題本身就包含了不正確的預設。模型需要能夠識別並挑戰這些預設，而不是簡單地回答。研究團隊呼籲開發者關注這一問題，並開發更好的方法來檢測和糾正預設錯誤。