跳到主要內容
AI News HubLIVE
站內改寫1 分鐘閱讀

基於宏動作的多智慧體指令跟隨:透過價值校正

文章摘要

多智慧體強化學習在現實應用中需要遵循外部自然語言指令,但指令可能打斷正在進行的宏動作並導致價值估計不一致。本文提出宏動作價值校正(MAVIC)方法,透過校正指令邊界處的貝爾曼備份,實現一致的策略價值估計。實驗表明,MAVIC在複雜合作環境中能有效平衡指令遵循與基礎任務效能。

來源arXiv AI作者: Wo Wei Lin, Ethan Rathbun, Enrico Marchesini Xiang Zhi Tan
基於宏動作的多智慧體指令跟隨:透過價值校正
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

多智慧體強化學習(MARL)在真實世界應用時常需要響應外部自然語言指令,這些指令可能打斷正在執行的宏動作,並與長期目標產生衝突。傳統的基於獎勵塑形的方法難以處理這種動態,因為貝爾曼更新會將不同指令上下文的價值估計耦合在一起,導致價值估計不一致。針對這一問題,來自臺灣大學的研究團隊提出了MAVIC(Macro-Action Value Correction for Instruction Compliance)方法,透過直接修正指令邊界處的貝爾曼備份來解耦價值估計。

MAVIC的核心創新在於,當新指令到達時,它校正當前指令的目標,並恢復在原始目標下的延續價值。與獎勵塑形不同,MAVIC修改的是自舉目標本身,而非僅僅調整獎勵訊號。這使得在一個統一策略下能處理隨機的指令切換,並保持價值估計的一致性。研究者提供了嚴格的理論分析,並在演員-評論家框架中實現了該方法。

實驗在複雜度遞增的合作多智慧體環境中進行,包括簡單的導航任務和複雜的協作操作場景。結果表明,MAVIC在保持基礎任務效能的同時,實現了高指令遵循率。例如,在需要多個機器人協作完成組裝任務的場景中,MAVIC能有效處理臨時插入的指令(如“停止”或“改變方向”),而基線方法則出現效能大幅下降。這一工作為在現實環境中部署能夠靈活響應外部指令的多智慧體系統提供了新的思路,特別是在無人機群、倉儲機器人等需要人機協作的領域具有重要應用前景。

展開要點與分析

文章情報

工程師入門

要點

  • 多智慧體強化學習在遵循外部指令時存在價值估計不一致的問題
  • MAVIC透過校正指令邊界處的貝爾曼備份來修正價值函式
  • 該方法在演員-評論家框架下實現,保持基礎任務效能的同時提高指令遵循率

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。