Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 恭喜南京邮电大学赵学健获国家专利权

恭喜南京邮电大学赵学健获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网恭喜南京邮电大学申请的专利一种基于维纳反卷积与对角费歇尔剪枝的联邦学习方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119180353B

龙图腾网通过国家知识产权局官网在2025-05-06发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411696958.9,技术领域涉及:G06N20/00;该发明授权一种基于维纳反卷积与对角费歇尔剪枝的联邦学习方法是由赵学健;韩忠旭;孙知信;孙哲设计研发完成,并于2024-11-26向国家知识产权局提交的专利申请。

一种基于维纳反卷积与对角费歇尔剪枝的联邦学习方法在说明书摘要公布了:本发明提出了一种基于维纳反卷积与Diag‑Fisher剪枝的联邦学习算法WDDFD‑FL。首先,客户端在完成模型训练后,使用Diag‑Fisher剪枝机制通过Fisher信息矩阵对梯度进行剪枝。接着,应用自然梯度优化对剪枝后的梯度进行修正并同态加密上传至服务器。服务器接收到加密后的剪枝梯度后,采用基于维纳反卷积的联邦机制对噪声进行滤波,通过估计噪声功率谱密度,设计反卷积来去除加密过程中引入的噪声,增强有用信号。最后,服务器聚合各客户端上传的梯度,形成全局模型并反馈给客户端,完成联邦学习的训练迭代;本发明通过对权重小的梯度进行剪枝以降低通信开销并且通过使用自然梯度以及维纳反卷积提高了模型精度。

本发明授权一种基于维纳反卷积与对角费歇尔剪枝的联邦学习方法在权利要求书中公布了:1.一种基于维纳反卷积与对角费歇尔剪枝的联邦学习方法,其特征在于,所述方法包括以下步骤:步骤1,客户端从服务器端接收全局模型,并基于本地数据集进行训练,步骤2,客户端基于本地数据集,对接收的全局模型进行本地训练,得到本地模型,步骤3,采用Diag-Fisher剪枝机制对本地模型的梯度进行剪枝,步骤4,对剪枝后本地模型使用自然梯度优化,步骤5,客户端将剪枝后的模型参数和经过优化的梯度通过同态加密上传至服务器端,步骤6,使用基于维纳反卷积的联邦机制对加密梯度进行去噪处理,服务器端对来自多个客户端的去噪梯度进行聚合,得到聚合后的全局模型;服务器端将更新后的全局模型发送至客户端,完成当前训练轮次的迭代;当达到预设的迭代轮次,服务器端最终生成联邦学习训练完成的全局模型;步骤3,采用Diag-Fisher剪枝机制对本地模型的梯度进行剪枝,其过程如下:3.1初始化本地模型对应的对角Fisher信息矩阵,其计算表达式为:Fdiag←0,3.2对于每个批次数据x,y∈Di,前向传播计算损失Lθi,x,y,其中,θi为客户端i的本地模型梯度,为其数据集Di的一批数据,3.3对于每个批次数据x,y∈Di,根据损失反向传播计算梯度 其中,θi为客户端i的本地模型梯度,x,y为其数据集Di的一批数据,Lθi,x,y表示其前向传播计算得到的损失,3.4对于每个批次数据x,y∈Di,累加得到本地模型的对角Fisher信息矩阵Fdiag←Fdiag+g2,其中,g为其反向传播计算得到的梯度,3.5根据表示当前客户端用于更新模型的批次数据集Di的大小,归一化对角Fisher信息矩阵Fdiag←FdiaglenDi,其中,lenDi表示当前客户端用于更新模型的批次数据集Di的大小,3.6根据设置好的剪枝率以及计算得到的对角Fisher信息矩阵,计算剪枝阈值τ←quantileFdiag,p,其中,Fdiag为计算完成的对角Fisher信息矩阵,p为事先设置好的剪枝率,τ是经过计算得到剪枝阈值,3.7将对角Fisher信息矩阵中的Fisher信息值与剪枝阈值进行比对,生成掩码M←Fdiag>τ,3.8应用掩码对本地模型参数进行剪枝:θ′i←θi⊙M,其中,τ是经过计算得到剪枝阈值,M为计算得到的掩码,最后应用掩码得到了剪枝后的新的梯度θ′i。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人南京邮电大学,其通讯地址为:210023 江苏省南京市亚东新城区文苑路9号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。