多智慧體強化學習(MARL)在真實世界應用時常需要響應外部自然語言指令,這些指令可能打斷正在執行的宏動作,並與長期目標產生衝突。傳統的基於獎勵塑形的方法難以處理這種動態,因為貝爾曼更新會將不同指令上下文的價值估計耦合在一起,導致價值估計不一致。針對這一問題,來自臺灣大學的研究團隊提出了MAVIC(Macro-Action Value Correction for Instruction Compliance)方法,透過直接修正指令邊界處的貝爾曼備份來解耦價值估計。
MAVIC的核心創新在於,當新指令到達時,它校正當前指令的目標,並恢復在原始目標下的延續價值。與獎勵塑形不同,MAVIC修改的是自舉目標本身,而非僅僅調整獎勵訊號。這使得在一個統一策略下能處理隨機的指令切換,並保持價值估計的一致性。研究者提供了嚴格的理論分析,並在演員-評論家框架中實現了該方法。
實驗在複雜度遞增的合作多智慧體環境中進行,包括簡單的導航任務和複雜的協作操作場景。結果表明,MAVIC在保持基礎任務效能的同時,實現了高指令遵循率。例如,在需要多個機器人協作完成組裝任務的場景中,MAVIC能有效處理臨時插入的指令(如“停止”或“改變方向”),而基線方法則出現效能大幅下降。這一工作為在現實環境中部署能夠靈活響應外部指令的多智慧體系統提供了新的思路,特別是在無人機群、倉儲機器人等需要人機協作的領域具有重要應用前景。