买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:芯原微电子(上海)股份有限公司;芯原微电子(成都)有限公司;芯原科技(上海)有限公司;芯原微电子(海南)有限公司;芯原微电子(南京)有限公司
摘要:本申请提供一种NPU内存分配方法、NPU、电子设备及存储介质,涉及神经网络领域。NPU内存分配方法包括:获取需被所述NPU分配内存的各模型的结构及所述各模型的工作数据;基于所述结构从所述工作数据中确定各模型之间的目标成分;其中,所述目标成分包括各模型之间的相同工作数据和模型中允许在内存通过分时复用进行存储的工作数据二者中的至少一者;为各模型的所述目标成分分配同一个内存。通过上述内存分配方法,可以在多模型执行运算时,减少NPU内存的占用。
主权项:1.一种NPU内存分配方法,其特征在于,包括:获取需被所述NPU分配内存的各模型的结构及所述各模型的工作数据;基于所述结构从所述工作数据中确定各模型之间的目标成分;其中,所述目标成分包括各模型之间相同的工作数据和模型中允许在内存通过分时复用进行存储的工作数据二者中的至少一者;为各模型的所述目标成分分配同一个内存。
全文数据:
权利要求:
百度查询: 芯原微电子(上海)股份有限公司 芯原微电子(成都)有限公司 芯原科技(上海)有限公司 芯原微电子(海南)有限公司 芯原微电子(南京)有限公司 NPU内存分配方法、NPU、电子设备及存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。