买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
摘要:本发明涉及长尾学习技术领域,公开了一种用于长尾数据集的神经架构搜索方法,分别从搜索空间和搜索策略两个方面对可微分架构搜索方法进行改进,以得到适用于长尾医疗数据集上的神经网络,对可微分架构搜索方法的改进包括,构建新搜索空间:将可微分架构搜索方法中的搜索空间的扩张卷积和可分离卷积,依次替换为长尾聚合卷积和长尾层次卷积,得到新搜索空间;搜索策略改进,包括在可微分架构搜索方法中引入尾部感知损失、在可微分架构搜索方法中增加对架构权重的正则化强度。本发明定义新的适合长尾数据的搜索空间,并且在新的搜索空间上实施新的搜索策略,为长尾数据环境下进行架构搜索提供了一种可靠的解决方法。
主权项:1.一种用于长尾数据集的神经架构搜索方法,分别从搜索空间和搜索策略两个方面对可微分架构搜索方法进行改进,以得到适用于长尾医疗数据集的神经网络,其特征在于,对可微分架构搜索方法的改进包括:A,构建新搜索空间:将可微分架构搜索方法中的搜索空间的扩张卷积和可分离卷积移除,新增长尾聚合卷积和长尾层次卷积,得到新搜索空间;其中,长尾聚合卷积是通过聚合不同区域的特征来增强神经网络对长尾医疗数据集中不同疾病数据类别的识别能力;具体地,长尾聚合卷积依次包括第一卷积核、ReLU激活函数、N1个卷积路径、批归一化操作和第二卷积核;ReLU激活函数输出的特征向量均分为N1组,分别通过N1个卷积路径,得到第一卷积后特征向量,对进行批归一化操作后输入到第二卷积核;输入至长尾聚合卷积的特征向量与第二卷积核输出的特征向量进行向量拼接,作为长尾聚合卷积的输出;所述长尾医疗数据集中至少存在类别S1和类别S2的疾病数据,类别S1的疾病数据和类别S2的疾病数据在数量上相差10倍以上;长尾层级卷积依次包括第三卷积核、N2个卷积路径、批归一化操作、ReLU激活函数和第四卷积核;将经过第三卷积核后得到的特征向量分为N2组,分别通过N2个卷积路径,得到N2个第二卷积后特征向量,对进行批归一化操作后再依次输入到ReLU激活函数和第四卷积核;输入至长尾层级卷积的特征向量与第四卷积核输出的特征向量进行向量拼接,作为长尾层级卷积的输出;B,搜索策略改进,包括在可微分架构搜索方法中引入尾部感知损失、在可微分架构搜索方法中增加对架构权重的正则化强度;引入尾部感知损失,具体包括:在优化架构权重时,使用如下采样策略抽取疾病数据:一部分疾病数据采用均匀分布方式抽取,另一部分疾病数据采用逆长尾分布方式抽取;增加对架构权重的正则化强度,具体包括:使用正则化更新架构权重;对架构权重更新的总损失函数为:;其中,为正则化强度,表示架构权重的L2范数;通过改进的可微分架构搜索方法对特定的长尾医疗数据集进行架构搜索,得到适用于特定长尾医疗数据集的神经网络。
全文数据:
权利要求:
百度查询: 中国科学技术大学 一种用于长尾数据集的神经架构搜索方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。