买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:星凡星启(成都)科技有限公司
摘要:本发明公开了一种深度学习模型算子代码的自动生成方法,具体涉及机器学习领域,该方法包括S1:深度学习模型算子代码自动生成训练;S2:待适配硬件平台信息获取;S3:待适配算子获取信息;S4:待适配硬件平台信息采集;S5:待适配算子信息采集;S6:待适配硬件平台算子信息分析;S7:待适配硬件平台算子代码集成分析;S8:待适配硬件平台自动生成算子代码信息反馈。深度学习模型算子代码的自动生成通过算子代码集成确保了新生成的算子代码能够集成到目标硬件平台的推理引擎中,同时对算子的综合维度进行分析,不仅提高了开发和部署的效率,而且确保了模型在不同硬件平台上的性能和稳定性,为用户提供了一个可靠、高效的模型部署和运行环境。
主权项:1.一种深度学习模型算子代码的自动生成方法,其特征在于,包括:S1:深度学习模型算子代码自动生成训练:用于将数据库中的若干个算子的Python代码在数据库中的若干个硬件平台上进行模拟训练,生成自动生成代码的大模型X;S2:待适配硬件平台信息获取:用于对待适配硬件平台进行扫描获取对应的适配信息;S3:待适配算子获取信息:用于对待适配硬件平台中的待适配算子进行扫描获取对应的基础信息列表,并将待适配算子按扫描的先后顺序进行编号,依次为1,2……n;S4:待适配硬件平台信息采集:用于对待适配目标硬件平台的适配信息进行采集;S5:待适配算子信息采集:用于大模型X中获取的待适配算子的基本信息;S6:待适配硬件平台算子信息分析:用于对大模型X中采集的算子及其对待适配目标硬件平台上生成的等效算子代码的信息进行分析,得到待适配目标硬件平台中算子代码生成的等效算子代码对应的目标综合维度指数,其中目标综合维度指数包括性能维度指数、效率维度指数以及稳定性维度指数;S7:待适配硬件平台算子代码集成分析:用于将大模型X在待适配目标硬件平台中算子代码生成的等效算子代码进行集成,对待适配硬件平台算子代码集成特性指数进行分析;S8:待适配硬件平台自动生成算子代码信息反馈:用于完成所有算子的适配后,将在目标硬件平台上的算子代码的生成结果和反馈待适配硬件平台算子代码集成特性的结果进行反馈。
全文数据:
权利要求:
百度查询: 星凡星启(成都)科技有限公司 一种深度学习模型算子代码的自动生成方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。