首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

面向无人机群水库水质检测的分布式模型训练方法及系统 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:河海大学;华能澜沧江水电股份有限公司

摘要:本发明公开一种面向无人机群水库水质检测的分布式模型训练方法及系统,在每一轮训练过程中,无人机从参数服务器接收到全局模型,对接收到的全局模型进行迭代训练,将交叉熵损失函数替换为焦点损失函数,平衡各类别样本在总损失值中的占比,降低本地模型对多数类样本的偏好性;在本地训练结束之后,无人机将模型梯度和损失值上传到参数服务器,参数服务器从接收到的模型梯度中选择主导梯度,并根据主导梯度对所有本地梯度进行修正,来缓解本地模型梯度间的冲突,最终提高水质检测模型的精度。本发明降低了中央服务器的负载,避免了模型训练时敏感数据泄露的风险,解决本地梯度在全局聚合阶段产生梯度冲突的问题,有助于更准确地识别水质问题。

主权项:1.一种面向无人机群水库水质检测的分布式模型训练方法,其特征在于,包括以下步骤:1无人机集群水库水质检测系统由N架带有本地数据集并具有模型训练能力的无人机和一个参数服务器组成;在每一轮训练之初,参数服务器随机选择K个无人机参与该轮训练,并将全局模型ωt发送给选定的K个无人机,其中N为无人机的总数,0KN;2无人机接收来自参数服务器的全局模型ωt,将本地模型初始化为ωt,并在本地所拥有的数据集上进行E次本地迭代训练;在每次本地迭代训练过程中,将交叉熵损失函数替换为重构后的焦点损失函数;在本地训练结束后将本地梯度和本地损失上传到参数服务器;3参数服务器在接收到来自无人机的梯度和损失后,计算每个梯度的投影异常值和梯度异常值,其中梯度异常值越大说明梯度异常程度越小;然后将梯度异常值进行降序排列,选择前个梯度作为主导梯度,其中λ∈0,1]表示主导梯度选取比率;4参数服务器检测主导梯度与本地梯度之间是否存在冲突;如果存在梯度冲突,则根据主导梯度修正方法对本地梯度进行修正;最后聚合修正后的本地梯度,更新全局模型;然后重复步骤1-4直到全局模型收敛或达到指定的通信轮次;所述步骤3中无人机上的梯度投影异常值和梯度异常值的具体计算步骤如下:无人机i的梯度投影异常值pi计算公式如下: 其中K表示参与分布式训练的无人机的数量,pi,j表示无人机i与无人机j的梯度投影异常值,pi,j的计算公式如下: 其中表示无人机i的梯度模长,表示无人机i的梯度和无人机j的梯度夹角的余弦值;pi越大,梯度异常程度越小,说明当前梯度较优;用li表示无人机i的损失值,那么li越小,模型预测值与真实标签越相近,说明模型性能较好;为实现pi与li具有相同单调性,设计用pi与1li相乘作为对梯度异常值的衡量标准;无人机i的梯度异常值zi计算公式如下: 其中pi代表了更新梯度的质量,li代表了模型的性能;服务器将异常梯度数组z={z1,...,zK}降序排列得到并根据参数λ∈0,1]选取前个梯度异常值所对应的梯度作为主导梯度

全文数据:

权利要求:

百度查询: 河海大学 华能澜沧江水电股份有限公司 面向无人机群水库水质检测的分布式模型训练方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。