arXiv 于 2026 年 5 月 26 日收到了一篇题为《Efficient On-policy Visual-RL via Stochastic Decoupled Policy Gradient》(通过随机解耦策略梯度实现高效同策略视觉强化学习)的新论文,编号为 arXiv:2605.26478v1。该论文由 Haoxiang You 与另外七位作者共同完成,归类于机器人学(cs.RO),同时涉及人工智能(cs.AI)、计算机视觉与模式识别(cs.CV)、机器学习(cs.LG)以及系统与控制(eess.SY)等多个交叉领域。
论文的核心贡献是提出了一种名为“随机解耦策略梯度”(stochastic decoupled policy gradient,简称 SDPG)的轻量级视觉强化学习方法。作者称,该方法能够在一台配备单块 NVIDIA RTX 4080 GPU 的机器上,在数小时内端到端地训练出多样化的视觉运动控制策略。这一效率目标针对的正是视觉强化学习中长期存在的算力瓶颈:传统方法通常需要同时并行渲染大量环境以稳定地估计梯度,因而对显存和计算资源要求极高。
SDPG 的关键机制在于,它通过对轨迹 rollout 施加随机扰动来估计策略梯度,而不是依赖大规模并行渲染的环境批次。这一设计使得所需的批量渲染环境数量比常规做法低若干个数量级,从而显著降低了计算与内存开销。换言之,该方法试图在不牺牲同策略学习稳定性的前提下,把视觉 RL 的训练成本压缩到单卡可承受的范围。
在视觉 MuJoCo 基准测试上,作者报告 SDPG 在训练时间、内存占用和奖励表现三方面均持续优于基线方法。这三个维度恰好对应视觉 RL 研究中最受关注的实用性指标:能否更快收敛、能否在有限硬件上跑通、以及最终策略质量是否具有竞争力。
除算法本身外,论文还提出了一套贴近真实场景的视觉机器人基准套件,覆盖灵巧操作与高难度运动控制等任务,并在物理硬件上展示了有效的仿真到现实(sim-to-real)迁移效果。作者表示,发布这套基准的目的是为后续研究提供支持,使社区能够在更接近真实部署条件的任务上评估视觉策略学习方法的泛化能力与实用性。
从提交信息看,该论文的 v1 版本于 2026 年 5 月 26 日 02:35:08 UTC 上传,全文附件约 16.7 MB,DOI 为 10.48550/arXiv.2605.26478,由 DataCite 颁发(注册尚待完成)。论文目前处于 cs.RO 的新投稿浏览上下文中。综合来看,这项工作同时覆盖了算法效率、基准建设和真实硬件验证三个层面,对于希望在有限算力条件下开展视觉强化学习与机器人控制研究的团队具有一定参考价值。