买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中国移动通信集团设计院有限公司;中国移动通信集团有限公司
摘要:本申请提出一种算力应用场景与智算芯片的适配评估方法、设备及产品,该方法基于算力应用场景中智算模型包括的各算子的计算量,预测智算模型应用于设定行业时所需的模型计算算力;以及,基于各算子的参数量,计算智算模型被训推时所需的模型显存存储量;基于模型计算算力、模型显存存储量和各智算芯片中用于描述智算芯片的性能的芯片参数,计算各智算芯片完成智算模型的训推所需的最少训推时间;基于完成智算模型的训推时各智算芯片的成本和各智算芯片的最少训推时间,确定与智算模型适配的智算芯片选型方案。相对于相关技术,节省了购买智算芯片的成本,同时即使是MLPerf基准中未囊括的智算模型,也能获得与该智算模型适配的最佳的芯片选型方案。
主权项:1.一种算力应用场景与智算芯片的适配评估方法,其特征在于,包括:基于算力应用场景中智算模型包括的各算子的计算量,预测所述智算模型应用于设定行业时所需的模型计算算力;以及,基于各所述算子的参数量,计算所述智算模型被训推时所需的模型显存存储量;基于所述模型计算算力、所述模型显存存储量和各智算芯片中用于描述智算芯片的性能的芯片参数,计算各所述智算芯片完成所述智算模型的训推所需的最少训推时间;基于完成所述智算模型的训推时各所述智算芯片的成本和各所述智算芯片的所述最少训推时间,确定与所述智算模型适配的智算芯片选型方案。
全文数据:
权利要求:
百度查询: 中国移动通信集团设计院有限公司 中国移动通信集团有限公司 算力应用场景与智算芯片的适配评估方法、设备及产品
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。