在自主车辆执行任务时,如何在充满威胁的环境中规划出一条安全且高效的路径,是一个长期存在的难题。这类问题本质上具有非线性和非凸性,即使是最简单的情景,传统最优控制方法虽然能够求出理想路径,但计算时间往往过长,难以满足实时决策的需求。针对这一挑战,来自arXiv的一项新研究提出了一种基于深度确定性策略梯度(DDPG)的强化学习路径规划方法,旨在以更快的速度生成可行路径。
该研究将环境中的威胁建模为可能多个圆形的“禁飞区”。任务失败的条件被定义为:车辆在任何时刻进入这些限制区域,或者未能到达目标点附近。DDPG智能体在模拟环境中通过试错进行训练,学习从当前状态(位置和航向)到一系列可行动作的直接映射,从而引导车辆安全抵达目的地。
奖励函数的设计是该方法的核心之一,由三部分构成:第一部分是以最终目的地为中心的吸引场,鼓励车辆向目标靠近;第二部分是以圆形障碍物原点为中心的排斥场,促使车辆远离威胁区域;第三部分是对控制能量消耗(即航向变化幅度)的惩罚,这间接鼓励车辆选择更直的路径。通过综合这些激励信号,DDPG智能体能够逐步学习到在复杂环境中安全导航的策略。
研究团队利用训练好的智能体,寻找能够保证安全到达目的地的最大起始点集合。这一能力为任务规划提供了关键信息:在任务执行前,即可判断从某个起点出发是否可行,从而辅助预规划活动。该方法在仿真环境中进行了验证,并与传统的伪谱最优控制方法进行了对比。结果表明,基于学习的智能体能够生成有效的路径,同时计算速度显著更快,使其更适用于实时应用场景。
该论文由Qiang Le、Yaguang Yang和Isaac E. Weintraub共同完成,于2026年6月5日提交至arXiv,共14页、12幅图,属于机器人学(cs.RO)和优化与控制(math.OC)领域。这项研究展示了强化学习在路径规划中的潜力,尤其是在需要快速响应的动态环境中,为自主系统的实时决策提供了新的思路。