跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

随机解耦策略梯度:单卡RTX 4080数小时内完成视觉强化学习训练

文章摘要

该论文提出随机解耦策略梯度(SDPG),一种轻量级视觉强化学习方法,可通过轨迹采样的随机扰动估计策略梯度,在单张NVIDIA RTX 4080上数小时内端到端训练多种视觉运动控制策略,在视觉MuJoCo基准上于训练时间、内存占用和奖励方面均优于基线,并附带真实视觉机器人基准及真机sim-to-real验证。

来源arXiv Robotics作者: Haoxiang You, Yilang Liu, Davis Zong, Qian Wang, Teeratham Vitchutripop, Qi Wang, Daniel Rakita, Ian Abraham
随机解耦策略梯度:单卡RTX 4080数小时内完成视觉强化学习训练
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

arXiv 于 2026 年 5 月 26 日收到了一篇题为《Efficient On-policy Visual-RL via Stochastic Decoupled Policy Gradient》(通过随机解耦策略梯度实现高效同策略视觉强化学习)的新论文,编号为 arXiv:2605.26478v1。该论文由 Haoxiang You 与另外七位作者共同完成,归类于机器人学(cs.RO),同时涉及人工智能(cs.AI)、计算机视觉与模式识别(cs.CV)、机器学习(cs.LG)以及系统与控制(eess.SY)等多个交叉领域。

论文的核心贡献是提出了一种名为“随机解耦策略梯度”(stochastic decoupled policy gradient,简称 SDPG)的轻量级视觉强化学习方法。作者称,该方法能够在一台配备单块 NVIDIA RTX 4080 GPU 的机器上,在数小时内端到端地训练出多样化的视觉运动控制策略。这一效率目标针对的正是视觉强化学习中长期存在的算力瓶颈:传统方法通常需要同时并行渲染大量环境以稳定地估计梯度,因而对显存和计算资源要求极高。

SDPG 的关键机制在于,它通过对轨迹 rollout 施加随机扰动来估计策略梯度,而不是依赖大规模并行渲染的环境批次。这一设计使得所需的批量渲染环境数量比常规做法低若干个数量级,从而显著降低了计算与内存开销。换言之,该方法试图在不牺牲同策略学习稳定性的前提下,把视觉 RL 的训练成本压缩到单卡可承受的范围。

在视觉 MuJoCo 基准测试上,作者报告 SDPG 在训练时间、内存占用和奖励表现三方面均持续优于基线方法。这三个维度恰好对应视觉 RL 研究中最受关注的实用性指标:能否更快收敛、能否在有限硬件上跑通、以及最终策略质量是否具有竞争力。

除算法本身外,论文还提出了一套贴近真实场景的视觉机器人基准套件,覆盖灵巧操作与高难度运动控制等任务,并在物理硬件上展示了有效的仿真到现实(sim-to-real)迁移效果。作者表示,发布这套基准的目的是为后续研究提供支持,使社区能够在更接近真实部署条件的任务上评估视觉策略学习方法的泛化能力与实用性。

从提交信息看,该论文的 v1 版本于 2026 年 5 月 26 日 02:35:08 UTC 上传,全文附件约 16.7 MB,DOI 为 10.48550/arXiv.2605.26478,由 DataCite 颁发(注册尚待完成)。论文目前处于 cs.RO 的新投稿浏览上下文中。综合来看,这项工作同时覆盖了算法效率、基准建设和真实硬件验证三个层面,对于希望在有限算力条件下开展视觉强化学习与机器人控制研究的团队具有一定参考价值。

展开要点与分析

文章情报

工程师进阶

要点

  • SDPG利用轨迹rollout的随机扰动估计策略梯度,大幅减少批量渲染环境数量与计算内存开销
  • 在视觉MuJoCo基准上,训练时间、内存占用与奖励三项指标均稳定优于基线方法
  • 单张RTX 4080 GPU即可在数小时内完成多样视觉运动控制策略的端到端训练
  • 作者同时发布覆盖灵巧操作与高难度运动控制的真实视觉机器人基准,并展示真机sim-to-real迁移

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。