买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：陕西师范大学

摘要：一种基于异构联邦学习的聚合方法，包括数据预处理；构建网络框架；构建Alexnet网络；训练Alexnet网络；测试Alexnet网络。本发明训练Alexnet网络过程中通过优化的梯度聚合策略和动态调整学习率，可以加速模型的训练过程，使模型更快地收敛到理想状态，并且允许不同来源的数据参与模型训练，打破了数据孤岛，促进了数据的共享和利用，能够根据参与者的实际计算能力分配合适的批大小和学习率，优化了计算资源的利用，避免了资源浪费。

主权项：1.一种基于异构联邦学习的聚合方法，其特征在于，包括以下步骤：步骤1.数据预处理获取数据集并归一化处理后，按比例划分为训练集和测试集；步骤2.构建网络框架确定网络框架的分布式参与者数量N，根据数据的分布Non_IID假设为每个参与者分配训练集中的数据；步骤3.构建Alexnet网络Alexnet网络模型由网络块1、网络块2、网络块3、网络块4、网络块5、网络块6依次相连构成，所述网络块1和网络块2及网络块5均由依次连接的卷积层、激活函数单元、最大池化层构成；所述网络块3和网络块4均由依次连接的卷积层、激活函数单元构成；所述网络块6由3层全连接层和2个激活函数单元构成，每两全连接层之间通过激活函数单元相连；步骤4.训练Alexnet网络步骤4.1.每个参与者将各自的数据送入Alexnet网络中进行训练，得到各自的网络模型，每个参与者的初始学习率均为α；步骤4.2.每个参与者将训练过程中得到的梯度参数上传至中心服务器，中心服务器聚合所用参与者的梯度参数，计算全局梯度，并更新全局模型；所述中心服务器聚合所用参与者的梯度参数的方法为：中心服务器设定批大小阈值，将训练数据量＞批大小阈值的参与者划分为A类，将训练数据量≤批大小阈值的参与者划分为a类，分别根据两类参与者的梯度参数计算两类参与者的平均模长，并得到倍率β＝mavgsmavgb，mavgs是a类所有参与者的平均模长，mavgb是A类所有参与者的平均模长；通过将A类参与者的梯度参数与倍率β相乘的方式更新A类参与者的梯度参数，a类参与者的梯度参数不变，完成聚合；步骤4.3.中心服务器将更新后的全局模型下发作为下次训练的初始模型；步骤4.4.重复步骤4.1～4.3，直至网络模型收敛，保存网络模型的参数；步骤5.测试Alexnet网络将测试集输入到Alexnet网络中进行测试，计算并记录准确率ACC。

全文数据：

权利要求：

百度查询： 陕西师范大学 基于异构联邦学习的聚合方法