首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

通用剪枝(UniPruning):用于神经网络加速的通用的硬件高效的剪枝方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:华为技术有限公司

摘要:描述了用于获得神经网络各层内权重集的分数的方法和装置。所述分数基于第一层中的权重集和以下中的一个或多个:i后续归一化层中的可选归一化系数和ii第二层中的权重集。根据所述分数,可以从所述层中删除所述权重集。这样剪枝可以减小相应层的大小。根据组分数,可以从所述神经网络的一个或多个层中剪枝多组权重集。例如,所述组的大小可以基于硬件规格。

主权项:1.一种用于训练神经网络的方法,其特征在于,所述神经网络包括至少两个层,所述方法包括:获得S810贡献于特征张量5030中的特征的第一权重集5021的分数,所述特征张量5030是所述神经网络的第一层的输出5020;所述分数基于所述第一权重集5021,并且所述分数还基于以下中的一个或多个:–归一化系数5041,所述归一化系数应用于紧跟在所述第一层5020之后的归一化层5040中,和或–第二权重集5061,所述第二集合包括在将第二层5060应用于所述特征张量5050时应用于所述特征的权重,所述第二层5060在所述第一层5020之后;所述方法还包括:如果基于所述分数的预定条件被满足,则从所述第一层5020中删除S830所述第一权重集5021。

全文数据:

权利要求:

百度查询: 华为技术有限公司 通用剪枝(UniPruning):用于神经网络加速的通用的硬件高效的剪枝方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。