南京信息工程大学万森宁获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉南京信息工程大学申请的专利一种基于多智能体图强化学习的无人机避障方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121635458B 。
龙图腾网通过国家知识产权局官网在2026-04-14发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202610155391.7,技术领域涉及:G05D1/633;该发明授权一种基于多智能体图强化学习的无人机避障方法是由万森宁;李斌设计研发完成,并于2026-02-04向国家知识产权局提交的专利申请。
本一种基于多智能体图强化学习的无人机避障方法在说明书摘要公布了:本发明公开了一种基于多智能体图强化学习的无人机避障方法,包括:构建能够实时反映UAV与网络实体之间关联关系的异构图,使系统能够准确捕获网络拓扑和环境状态的动态变化,为后续决策提供更加全面的状态信息;选取系统通信速率作为主要性能指标,并将通信速率和最大化问题建模为部分可观测马尔可夫决策过程;构建能刻画多智能体交互关系的异构图,使用图注意网络实现状态编码;提出一种基于多智能体软演员‑评论家框架的协同训练机制,实现对Actor网络与Critic网络的联合优化。本发明方法融合了多智能体强化学习与异构图神经网络技术,能够最大化系统通信速率并提升UAV在高动态环境下的避障与通信决策能力。
本发明授权一种基于多智能体图强化学习的无人机避障方法在权利要求书中公布了:1.一种基于多智能体图强化学习的无人机避障方法,其特征在于,包括如下步骤: 步骤1、系统初始化与离线训练:构建UAV辅助无线通信系统,包括多个UAV、移动终端和动态障碍物,将UAV与移动终端之间的信道链路建模为概率模型; UAV搭载基站在目标区域内飞行,为终端用户提供通信服务,实时采集环境信息,包括终端位置、链路状态及障碍物分布,并基于获取的数据动态调整自身三维飞行轨迹及通信策略; 所述概率模型结合了视距和非视距链路,UAV到移动终端的信道增益表示为: ; 其中,表示信道功率增益,是路径损耗指数,表示时隙下UAV和移动终端之间的距离,表示Rician因子;表示视距组件,表示UAV和移动终端之间的非视距信道系数,为UAV时隙下的位置,为移动终端在时隙下的位置; 步骤2、将UAV避障与通信优化任务建模为POMDP,对UAV、移动终端与障碍物之间的交互关系进行联合建模与优化,包括: 引入多智能体图强化学习方法,根据POMDP构建异构图,表征UAV、障碍物和移动终端之间的交互关系,使用图注意网络进行状态编码; 引入MASAC算法框架,进行协同训练,通过集中式训练与分布式执行的机制对异构图进行学习,动态优化UAV的通信策略与飞行轨迹; 将通信速率和最大化问题建模为POMDP模型,将每个UAV作为一个智能体,状态空间表示为;每个智能体的局部观测空间为,动作空间为,表示时隙集合; 所述观测空间中,UAV的总观测值为: ; 其中,为UAV的局部观测,包括UAV位置、飞行速度和剩余能量;为UAV获取的感知区域内其他UAV的观测;为移动终端的观测,包括移动终端的位置、终端是否与当前UAV关联以及是否与其他UAV的关联内;为障碍物的观测,包括障碍物的坐标、边长向量和高度; 所述动作空间,通过连续控制动作调整UAV轨迹,在时隙,UAV的动作包括在三维空间中的加速度及功率分配,表示为;表示用户集合; 所述MASAC算法框架,处理如下: 智能体在每个时隙与环境进行交互,UAV依据当前环境状态获得局部观测,表示成图,输入至Actor网络; Actor网络基于当前图表示输出动作,UAV根据动作与环境交互,环境根据智能体的动作返回奖励和下一时刻的局部观测,表示成图,将存入经验回放池; 从经验回放池中随机采样经验数据,输入Critic网络和Actor网络中,通过Critic网络评估状态-动作对的值函数,输出,表示在观测下执行动作期望的累积回报; 所述Actor网络通过最大化Q值和动作分布的对数似然函数更新参数,使智能体在给定状态下选择的动作获得更高的期望回报; 步骤3、在每个决策时隙,UAV根据自身状态、移动终端状态以及障碍物状态,确定当前最优策略,包括:基于当前环境状态,联合调整UAV的飞行轨迹、发射功率以及UAV与移动终端之间的关联关系,最大化系统通信速率之和并保障安全通信;并依据最优策略执行下一步动作,完成避障。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人南京信息工程大学,其通讯地址为:210032 江苏省南京市江北新区宁六路219号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励