恭喜上海几何伙伴智能驾驶有限公司丁宁获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜上海几何伙伴智能驾驶有限公司申请的专利一种模型压缩离群值消除方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119416899B 。
龙图腾网通过国家知识产权局官网在2025-04-11发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510026092.9,技术领域涉及:G06N5/045;该发明授权一种模型压缩离群值消除方法是由丁宁;陆新飞;陶炳仁;张显宏;王海涛;薛旦;史颂华设计研发完成,并于2025-01-08向国家知识产权局提交的专利申请。
本一种模型压缩离群值消除方法在说明书摘要公布了:本发明公开了一种模型压缩离群值消除方法,所述模型为含有Transformer结构的雷视融合目标检测跟踪模型。通过本发明提出的量化算法,能够有效地均衡权重的分布,进一步地压缩模型中的算子到int8uint8的表示位宽下。这样既可以缩减模型的大小,降低端侧的内存暂用,同时,也可以在模型推理过程中,缓存中能够承载更多的数据量,降低模型权重加载的次数,在保证检出精度的情况下,实现性能加速的效果。
本发明授权一种模型压缩离群值消除方法在权利要求书中公布了:1.一种模型压缩离群值消除方法,所述模型为含有Transformer结构的雷视融合目标检测跟踪模型,其特征在于,包括以下步骤:步骤1、获得包含图像数据以及点云数据的多模态数据,预处理后的多模态数据为模型的输入数据;步骤2、将输入数据输入到模型中,获取模型低比特量化过程中出现的量化误差比较大的conv算子,其中,采用以下方法判断当前conv算子的量化误差是否较大:当前conv算子在经过量化后,将当前量化后的conv算子的输出结果进行反量化,计算反量化结果与当前conv算子在原精度位宽下的计算结果的相似度:若相似度大于预设的阈值,则表明量化误差可以接受;否则,表明当前conv算子的量化误差较大;步骤3、设步骤2所获得的conv算子的输入数据为X、权重数据为W:若当前conv算子的权重数据W呈现出多峰非类高斯分布,则将当前conv算子配置为在量化时进行均衡处理;若当前conv算子的权重数据W呈现出单峰的类高斯分布,则将当前conv算子配置为在量化时不进行均衡处理;在量化时进行均衡处理,包括以下步骤:步骤301、将权重数据W映射到量化精度位宽下,对权重数据W进行均衡处理,获得量化均衡后的权重数据Wq;步骤302、将输入数据X映射到量化精度位宽下,对输入数据X进行均衡处理,获得量化均衡后的输入数据Xq;步骤303、将权重数据Wq和输入数据Xq带入到当前conv算子中,计算均衡量化的量化结果,再将量化结果反量化回去获得反量化输出结果,将反量化输出结果与原始精度位宽下的输出结果进行对比,以验证当前conv算子在通过均衡量化后的输出结果是否精度收敛,若未精度收敛,则将当前conv算子配置为在量化时不进行量化处理;步骤4、按照步骤3的配置执行模型量化处理,生成量化后的模型;步骤5、加载同样的真值数据,对比量化后的模型与原始精度位宽下的模型的输出结果,进行结果精度对比:若满足精度需求,则进行模型平台适配转换,加载到设备端进行使用;若精度不满足需求,则重新定位量化误差原因以及对应的conv算子进行算法优化处理或者放开到原始精度位宽下进行精度对齐,来满足应用精度需求。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海几何伙伴智能驾驶有限公司,其通讯地址为:200120 上海市浦东新区中国(上海)自由贸易试验区宁桥路615号T12B-Ⅱ二层;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。