买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:北京谦合益邦云信息技术有限公司
摘要:本发明实施例公开了一种适用于AI芯片的量化调优装置及方法,所述方法包括:按约束条件将模型拆分成多个子图;其中,所述模型为深度学习浮点模型,所述约束条件为AI芯片在量化过程中所面临的限制;采用组合方式,组合了众多调优设定,以得到对应的调优策略;依次对每个子图结合所述调优策略进行调优处理并进行效果判断;若判断结果为优于调优前且已为最后一个子图时,结束量化调优并更新对应的量化参数;其效果是:本发明能够在保持模型精度的前提下,实现更好的模型压缩和加速效果。
主权项:1.一种适用于AI芯片的量化调优装置,其特征在于,包括:拆分模块,用于按约束条件将模型拆分成多个子图;其中,所述模型为深度学习浮点模型,所述约束条件为AI芯片在量化过程中所面临的限制;设定模块,用于采用组合方式,组合了众多调优设定,以得到对应的调优策略;处理模块,用于:依次对每个子图结合所述调优策略进行调优处理并进行效果判断;若判断结果为优于调优前且已为最后一个子图时,结束量化调优并更新对应的量化参数。
全文数据:
权利要求:
百度查询: 北京谦合益邦云信息技术有限公司 一种适用于AI芯片的量化调优装置及方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。