买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:北京清程极智科技有限公司
摘要:本申请涉及一种模型编译辅助方法、装置、计算机设备、计算机可读存储介质和计算机程序产品,涉及计算机技术领域。本申请能够提高模型的编译效率和资源利用率。该方法包括:根据待执行的模型编译任务的任务类型,得到需要使用GPU资源的目标模型编译任务,并将目标模型编译任务挂载到任务容器中;利用在容器编排平台中新增的编译控制器,在各类型的GPU设备上预先运行任务容器中的目标模型编译任务,得到各类型的GPU设备输出的编译结果和模型权重;将编译结果和模型权重保存到云存储中,形成对应的模型镜像;响应于任务预执行指令,从云存储中获取模型镜像,根据模型镜像预执行目标模型编译任务,得到预编译后的模型;将预编译后的模型发送至客户端。
主权项:1.一种模型编译辅助方法,其特征在于,所述方法包括:获取待执行的模型编译任务,根据所述模型编译任务的任务类型,得到需要使用GPU资源的目标模型编译任务,并将所述目标模型编译任务挂载到任务容器中;在容器编排平台中新增编译控制器,利用所述编译控制器,在各类型的GPU设备上预先运行所述任务容器中的所述目标模型编译任务,得到各类型的所述GPU设备输出的编译结果和模型权重;将所述编译结果和所述模型权重保存到云存储中,形成对应的模型镜像;响应于客户端发送的任务预执行指令,从所述云存储中获取所述模型镜像,根据所述模型镜像预执行所述目标模型编译任务,得到预编译后的模型;将所述预编译后的模型发送至所述客户端。
全文数据:
权利要求:
百度查询: 北京清程极智科技有限公司 模型编译辅助方法、装置、计算机设备、可读存储介质和程序产品
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。