买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜中国矿业大学申请的专利一种基于近端对抗约束策略搜索的离线强化学习方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119005289B 。

龙图腾网通过国家知识产权局官网在2025-03-18发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411024892.9，技术领域涉及：G06N3/092；该发明授权一种基于近端对抗约束策略搜索的离线强化学习方法是由程玉虎;曹硕;王雪松设计研发完成，并于2024-07-29向国家知识产权局提交的专利申请。

本一种基于近端对抗约束策略搜索的离线强化学习方法在说明书摘要公布了：本发明公开了一种基于近端对抗约束策略搜索的离线强化学习方法。首先通过训练的高级行为策略提供服从静态离线数据集分布但优于静态离线数据集内动作的样本外高级行为动作，作为策略约束的参考动作，提高策略约束效率；然后在静态离线数据集内动作和高级行为动作处对约束策略搜索目标进行泰勒展开近似，构建学习策略在两个足够小动作近端的对抗补偿式点‑邻域样本高效搜索，允许学习策略主动选择有限偏离静态离线数据集的分布外动作。本发明通过提供可靠的参考动作和低方差的梯度估计，可以有效选择分布外动作，突破点‑点策略约束禁止选择分布外动作的决策性能限制，缩小学习策略与最优策略的性能差异。

本发明授权一种基于近端对抗约束策略搜索的离线强化学习方法在权利要求书中公布了：1.一种基于近端对抗约束策略搜索的离线强化学习方法，其特征在于，包括如下步骤：步骤1，构建高级行为策略网络、Q函数和近端对抗约束策略网络；步骤2，利用行为策略πβ与机器人环境交互，收集经验转换数据s,a,r,s′的静态离线数据集一条经验转换数据s,a,r,s′表示机器人当前状态s，通过策略πβ执行动作a，获取即时奖励r，转换到下一时刻状态s′；所述机器人当前状态s包括位置、速度、各个关节的角度和角速度；动作a表示对机器人各个关节施的加力或力矩；步骤3，从静态离线数据集中采样小批次经验转换数据；步骤4，以采样的静态离线数据集内动作a＝πβs作为参考动作构建的约束策略搜索，去更新获取优于行为策略πβ的高级行为策略μ，为近端对抗约束策略搜索提供样本外高级行为动作μs；同时更新获取稳定估计的Q函数步骤5，利用函数高级行为动作μs和静态离线数据集内动作a，对近端对抗约束策略πρ进行更新；步骤6，重复步骤3-5，更新高级行为策略网络、Q函数和近端对抗约束策略网络的网络参数，学习到最优近端对抗约束策略。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国矿业大学，其通讯地址为：221116 江苏省徐州市铜山区大学路1号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。