买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:北京辉羲智能科技有限公司
摘要:本发明提供一种深度学习编译优化方法、装置、电子设备及存储介质,该方法包括:通过深度学习框架将深度神经网络表达为计算图,将计算图转换为深度学习框架与深度学习编译器之间的中间层;标记中间层中需要编译的算子,并将标记的各算子聚类成多个子图;子图包括至少一个融合算子,融合算子是由多个标记的算子融合得到的;通过深度学习编译器在线编译融合算子,生成融合算子的内核代码;在线编译包括基于微内核库将最内层循环代码转换为微内核的调用代码。本发明可以兼顾编程的灵活性和计算的高效性,提高开发效率,并改善代码生成搜索空间大的问题,缩减编译时间开销。
主权项:1.一种深度学习编译优化方法,其特征在于,包括:通过深度学习框架将深度神经网络表达为计算图,将所述计算图转换为所述深度学习框架与深度学习编译器之间的中间层;标记所述中间层中需要编译的算子,并将标记的各所述算子聚类成多个子图;所述子图包括至少一个融合算子,所述融合算子是由多个标记的所述算子融合得到的;通过所述深度学习编译器在线编译所述融合算子,生成所述融合算子的内核代码;所述在线编译包括基于微内核库将最内层循环代码转换为微内核的调用代码。
全文数据:
权利要求:
百度查询: 北京辉羲智能科技有限公司 深度学习编译优化方法、装置、电子设备及存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。