跳到主要內容
AI News HubLIVE
站內改寫2 分鐘閱讀

遞迴語義分歧:衡量並提升LLM智慧體執行一致性的新指標

文章摘要

該論文提出遞迴語義分歧(RSD)——一種無監督、軌跡級的一致性度量,借鑑強化學習中的雙模擬度量,用自然語言推理檢測同一智慧體從相同狀態出發兩次獨立rollout之間的語義分歧,並將其遞迴定義於未來狀態之上。將其作為微調獎勵訊號後,tau2-bench上任務進度的波動從132%降至91%,toolsandbox上從90%降至44%,同時提升多個基準與模型規模下的效能,且無需真實標籤。

來源arXiv Computational Linguistics作者: Harshavardhan Abichandani, Penny Chong, Atin Ghosh, Daniel Dahlmeier
遞迴語義分歧:衡量並提升LLM智慧體執行一致性的新指標
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

具備工具呼叫能力的大語言模型(LLM)智慧體,往往會從完全相同的初始狀態出發、在互相獨立的多次執行中表現出不一致的行為:它們可能呼叫不同的工具、給出互相矛盾的輸出,或者走向截然不同的策略路徑。這類變異性會隨著時間不斷累積,從而嚴重削弱實際部署中的可靠性。也正因如此,如何評估並抑制智慧體的這種“漂移”,成為構建可信 agent 系統的關鍵問題之一。

現有評測體系並沒有很好地解決這一點。主流指標多以任務完成度為基礎,衡量“任務是否做對”,而不是“行為是否穩定”,因此無法刻畫同一任務多次執行之間的一致性差異。而在行為分析方面,研究者通常要麼在 token 層面觀察機率分佈,要麼在單輪迴復層面對語義輸出做聚類,但這兩類做法都看不到不一致性如何在軌跡的後續輪次中逐層傳播與放大。

針對這一空白,論文提出了遞迴語義分歧(Recursive Semantic Divergence,RSD)。這是一種無監督的軌跡級一致性度量,其思想借鑑了強化學習中的雙模擬度量(bisimulation metrics)。具體而言,RSD 衡量的是同一個智慧體從同一狀態出發進行兩次獨立 rollout 時,二者之間期望累積的語義不一致程度,並藉助自然語言推理(NLI)來判斷兩段表述在邏輯上是否相互矛盾,而不僅僅是字面上是否相似。

RSD 的定義在“未來狀態”上遞迴展開:當前狀態的分歧,不僅取決於當下的輸出差異,還取決於從當前狀態走下去之後,未來各步可能出現多大程度的不一致。為了使其可計算,作者用一個神經網路來近似該度量,訓練資料來自獨立 rollout 樣本。值得注意的是,這一學習得到的度量可以在不需要跑完整條軌跡的情況下,針對每個輪次給出當前狀態的一致性評分,並預測未來的分歧程度,從而為線上評測和訓練反饋提供了實用的工具。

在應用層面,RSD 可以直接作為微調時的獎勵訊號使用。實驗結果顯示,在 tau2-bench 上,任務進度的波動從 132% 降到 91%;在 toolsandbox 上,波動從 90% 大幅降至 44%。與此同時,該方法在多個基準測試、不同模型規模下都帶來了效能提升,說明一致性獎勵並未以犧牲任務效果為代價,反而有助於模型更穩定、更高效地推進任務。

論文還指出,把 RSD 作為附加獎勵訊號進行訓練,可以在不依賴標準答案(ground-truth 標籤)的情況下,取得與監督微調相當的效能,同時方差顯著更低。這意味著該方法在標註成本高昂或難以獲得高質量標籤的場景中尤其具有吸引力,也為 agent 的自我改進與對齊提供了新的無監督思路。

該論文由 Harshavardhan Abichandani 等人完成,已被 NeurIPS 2026 接收為會議論文,作者已在倉庫中公開原始碼,便於社群復現與進一步研究。論文於 2026 年 10 月 8 日提交至 arXiv(arXiv:2610.33012),隸屬於計算與語言(cs.CL)分類,並涉及人工智慧(cs.AI)與機器學習(cs.LG)。

展開要點與分析

文章情報

工程師進階

要點

  • RSD用自然語言推理衡量agent從同一狀態兩次rollout的累計語義分歧,可提前預估未來走向
  • 作為獎勵訊號微調可顯著降低任務進度波動(tau2-bench 132%→91%,toolsandbox 90%→44%)
  • 無需ground-truth標籤,效能可匹敵監督微調,方差更低
  • 論文被NeurIPS 2026接收,程式碼已開源

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。