买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:合肥工业大学智能制造技术研究院
摘要:本发明涉及车辆任务卸载技术领域,具体是一种基于D3QN算法的车载任务卸载方法,本发明统筹全局信息,掌握任务车辆、服务车辆和边缘服务器的信息,调控资源分配,为不同时隙产生的不同类型的车载任务制定不同的计算卸载以及资源分配策略,进而能够有效的提高车载任务的处理速度,以满足通讯延迟要求。
主权项:1.一种基于D3QN算法的车载任务卸载方法,其特征在于,包括以下卸载步骤:S1、基于D3QN算法,将车载任务的状态输入到生成网络中以生成对应卸载动作;接着根据设定的策略选择卸载动作并执行,以更新得到下一状态;S2、构建交互数据,交互数据包括当前状态、选择的卸载动作、卸载动作对应的奖励,以及下一状态,且每一条交互数据构成一个样本;将通过生成网络生成的多个样本存放在经验回放缓冲区中;S3、从经验回放缓冲区中随机采样设定数量的样本,将样本输入到目标网络中计算对应的目标动作价值;S4、通过最小化目标动作价值和预测动作价值之间的差值,来更新生成网络的参数;S5、在训练目标网络的过程中,每隔设定迭代轮数,将当前生成网络的参数复制给目标网络;S6、重复步骤S2到步骤S5,直到达到设定的停止条件;接着使用当前的目标网络预测新的车载任务的最优卸载动作,以完成车载任务的卸载;执行卸载任务后得到的奖励通过奖励函数计算,奖励函数的推导过程具体如下:S11、计算产生车载任务的任务车辆与卸载该车载任务的服务车辆之间的数据传输速率,该数据传输速率计算公式如下: ;式中,表示产生车载任务i的任务车辆与卸载该车载任务i的服务车辆k之间的数据传输速率,i∈[1,I],I表示车载任务的总数,一辆任务车辆同一时间只产生一个车载任务;表示产生车载任务i的任务车辆与卸载该车载任务i的服务车辆k之间的带宽,k∈[1,K],K表示服务车辆的总数,一辆服务车辆同一时间只卸载一个车载任务;表示产生车载任务i的任务车辆的数据发射功率;表示产生车载任务i的任务车辆与卸载该车载任务i的服务车辆k之间的信道增益;表示卸载车载任务i的服务车辆k的高斯白噪声功率;表示产生车载任务i的任务车辆与卸载该车载任务i的服务车辆k之间的路径距离;表示路径损失指数;计算产生车载任务的任务车辆与卸载该车载任务的边缘服务器之间的数据传输速率,该数据传输速率计算公式如下: ;式中,表示产生车载任务i的任务车辆与卸载该车载任务i的边缘服务器n之间的数据传输速率;表示产生车载任务i的任务车辆与卸载该车载任务i的边缘服务器n之间的带宽,n∈[1,N],N表示边缘服务器的总数,一个边缘服务器同一时间只卸载一个车载任务;表示产生车载任务i的任务车辆与卸载该车载任务i的边缘服务器n之间的信道增益;表示卸载车载任务i的边缘服务器n的高斯白噪声功率;表示产生车载任务i的任务车辆与卸载该车载任务i的边缘服务器n之间的路径距离;S12、基于数据传输速率,计算卸载车载任务的总时延,卸载车载任务的总时延包括车载任务在任务车辆中计算时的时延、车载任务卸载至服务车辆时的时延,以及车载任务卸载至边缘服务器时的时延;计算公式具体如下: ; ; ; ;式中,表示t时刻卸载车载任务i的总时延;表示t时刻车载任务i在产生该车载任务i的任务车辆中计算时的时延,即车载任务i在本地计算时的时延;表示t时刻车载任务i卸载至服务车辆k时的时延;表示t时刻车载任务i卸载至边缘服务器n时的时延;表示t时刻车载任务i的计算复杂度;表示t时刻为计算车载任务i的任务车辆分配的计算资源;表示t时刻为卸载车载任务i的服务车辆k分配的计算资源;表示t时刻卸载车载任务i的边缘服务器n分配的计算资源;表示t时刻卸载至服务车辆k的车载任务i的数据量;表示t时刻卸载至服务车辆n的车载任务i的数据量;S13、根据车载任务类型,将车载任务分为安全性任务和非安全性任务,并分别计算对应的时延效用评价函数,计算公式如下: ; ; ;式中,表示t时刻卸载车载任务i的总时延效用评价函数;表示t时刻属于安全性任务的车载任务i对应的安全时延效用评价函数,下标1表示当前车载任务属于安全性任务;表示t时刻属于非安全性任务的车载任务i对应的非安全时延效用评价函数,下标2表示当前任务属于非安全性任务;表示t时刻卸载车载任务i的总截止时间;S14、计算车载任务在卸载过程中,需要付给任务车辆、服务车辆和边缘服务器的价钱,计算公式如下: ; ; ; ;式中,表示t时刻卸载车载任务i的总价钱;表示t时刻车载任务i在产生该车载任务i的任务车辆中计算时的价钱;表示t时刻车载任务i卸载至服务车辆k时的价钱;表示t时刻车载任务i卸载至边缘服务器n时的价钱;表示服务车辆k处理车载任务时的报价;表示边缘服务器n处理车载任务时的报价;S15、计算卸载车载任务后获得的奖励,计算公式如下: ; ;式中,表示t时刻卸载车载任务i时的卸载动作;表示t时刻卸载车载任务i时的状态;表示t时刻卸载车载任务i时获得的奖励,该奖励用于步骤S1中更新下一状态;表示t时刻所有状态的集合;表示价钱权重;表示时延权重;表示t时刻所有卸载动作构成的集合;表示t时刻卸载所有车载任务时获得的总奖励。
全文数据:
权利要求:
百度查询: 合肥工业大学智能制造技术研究院 一种基于D3QN算法的车载任务卸载方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。