跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

基于深度确定性策略梯度的路径规划:一种强化学习方法

文章摘要

本文提出一种基于深度确定性策略梯度(DDPG)的强化学习方法,用于解决威胁环境中自主车辆的路径规划问题。该方法将威胁建模为圆形禁飞区,通过模拟环境训练智能体学习从状态到动作的映射,以快速生成安全路径。仿真结果表明,与伪谱最优控制方法相比,DDPG方法在保持路径有效性的同时显著提升了计算速度,更适用于实时决策。

来源arXiv Robotics作者: Qiang Le, Yaguang Yang, Isaac E. Weintraub
基于深度确定性策略梯度的路径规划:一种强化学习方法
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

在自主车辆执行任务时,如何在充满威胁的环境中规划出一条安全且高效的路径,是一个长期存在的难题。这类问题本质上具有非线性和非凸性,即使是最简单的情景,传统最优控制方法虽然能够求出理想路径,但计算时间往往过长,难以满足实时决策的需求。针对这一挑战,来自arXiv的一项新研究提出了一种基于深度确定性策略梯度(DDPG)的强化学习路径规划方法,旨在以更快的速度生成可行路径。

该研究将环境中的威胁建模为可能多个圆形的“禁飞区”。任务失败的条件被定义为:车辆在任何时刻进入这些限制区域,或者未能到达目标点附近。DDPG智能体在模拟环境中通过试错进行训练,学习从当前状态(位置和航向)到一系列可行动作的直接映射,从而引导车辆安全抵达目的地。

奖励函数的设计是该方法的核心之一,由三部分构成:第一部分是以最终目的地为中心的吸引场,鼓励车辆向目标靠近;第二部分是以圆形障碍物原点为中心的排斥场,促使车辆远离威胁区域;第三部分是对控制能量消耗(即航向变化幅度)的惩罚,这间接鼓励车辆选择更直的路径。通过综合这些激励信号,DDPG智能体能够逐步学习到在复杂环境中安全导航的策略。

研究团队利用训练好的智能体,寻找能够保证安全到达目的地的最大起始点集合。这一能力为任务规划提供了关键信息:在任务执行前,即可判断从某个起点出发是否可行,从而辅助预规划活动。该方法在仿真环境中进行了验证,并与传统的伪谱最优控制方法进行了对比。结果表明,基于学习的智能体能够生成有效的路径,同时计算速度显著更快,使其更适用于实时应用场景。

该论文由Qiang Le、Yaguang Yang和Isaac E. Weintraub共同完成,于2026年6月5日提交至arXiv,共14页、12幅图,属于机器人学(cs.RO)和优化与控制(math.OC)领域。这项研究展示了强化学习在路径规划中的潜力,尤其是在需要快速响应的动态环境中,为自主系统的实时决策提供了新的思路。

展开要点与分析

文章情报

工程师进阶

要点

  • DDPG智能体在模拟环境中通过试错学习,将当前位置和航向直接映射为可行动作序列。
  • 奖励函数由目标点吸引场、障碍物排斥场和控制能量惩罚三部分组成,引导智能体生成平滑且安全的路径。
  • 训练后的智能体能够快速判断从给定起点能否安全到达目标,为任务预规划提供关键信息。
  • 仿真对比显示,DDPG方法生成的路径有效且计算速度远快于传统伪谱最优控制方法。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。

基于深度确定性策略梯度的路径规划:一种强化学习方法 | AI News Hub