买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
摘要:本发明涉及深度学习技术领域,公开了一种基于张量数据计算推理的编译器优化方法、装置及设备,所述方法包括:根据待优化编译器的设计结构信息得到目标中间转换层和目标中间转换层执行操作;根据目标中间转换层设定目标调参学习参数;根据目标中间转换层执行操作确定待优化编译器对象;通过目标自动调参策略根据目标调参学习参数对待优化编译器对象进行调参优化;通过上述方式,根据目标中间转换层设定目标调参学习参数,以及根据目标中间转换层执行操作确定待优化编译器对象,然后通过标自动调参策略以目标调参学习参数角度对待优化编译器对象进行调参优化,从而能够得到与指定输入模型相契合的编译器,进而有效提高张量数据推理的效率。
主权项:1.一种基于张量数据计算推理的编译器优化方法,其特征在于,所述基于张量数据计算推理的编译器优化方法包括以下步骤:获取待优化编译器的设计结构信息,根据所述设计结构信息得到目标中间转换层和目标中间转换层执行操作;根据所述目标中间转换层设定目标调参学习参数;根据所述目标中间转换层执行操作确定待优化编译器对象;通过目标自动调参策略根据所述目标调参学习参数对所述待优化编译器对象进行调参优化;所述目标调参学习参数至少包括调参学习类型、目标学习对象以及目标调参次数;所述根据所述目标中间转换层设定目标调参学习参数,包括:获取生成目标自解码的数据交换次数和数据分解性能;根据所述数据交换次数和所述数据分解性能设定调参学习类型和目标学习对象;根据所述中间转换层得到参数设定的目标范围,并根据所述目标范围得到参数设定最大值和参数设定最小值;根据所述参数设定最大值和所述参数设定最小值设定目标调参次数;所述根据所述目标中间转换层执行操作确定待优化编译器对象,包括:根据所述中间转换层执行操作得到目标中间层的执行节点;获取设置在所述目标中间层的各层的数据优化策略;根据所述执行节点和所述各层的数据优化策略确定各层所需执行的目标操作;根据所述各层所需执行的目标操作得到待优化编译器对象;所述根据所述各层所需执行的目标操作得到待优化编译器对象,包括:根据所述各层所需执行的目标操作获取待处理统一格式中间表示元;根据所述待处理统一格式中间表示元构建目标特征矩阵;根据所述目标特征矩阵得到矩阵计算时长和矩阵计算占用资源;在所述矩阵计算时长大于预设时长阈值和或所述矩阵计算占用资源大于预设存储资源阈值时,将所述矩阵计算时长和所述矩阵计算占用资源作为待优化编译器对象。
全文数据:
权利要求:
百度查询: 贝式计算(天津)信息技术有限公司 基于张量数据计算推理的编译器优化方法、装置及设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。