恭喜珠海市欧冶半导体有限公司薛文良获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜珠海市欧冶半导体有限公司申请的专利应用于Transformer的批量层归一化方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115952834B 。
龙图腾网通过国家知识产权局官网在2025-05-16发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211712332.3,技术领域涉及:G06N3/0464;该发明授权应用于Transformer的批量层归一化方法及装置是由薛文良;陈瑞斌设计研发完成,并于2022-12-29向国家知识产权局提交的专利申请。
本应用于Transformer的批量层归一化方法及装置在说明书摘要公布了:本申请公开了一种应用于Transformer的批量层归一化方法及装置,所述方法包括获取待批量归一化处理的特征图,读取所述Transformer神经网络的全局均值和全局标准差;基于所述全局均值和全局标准差,对所述特征图进行归一化;对归一化后的特征图进行仿射变换,以得到归一化特征图。本申请通过获取全局均值和全局标准差,可以减少归一化操作过程中对数据的统计次数,可以减少归一化所需要的计算资源。同时,本申请在各特征点的均值和标准差均是统一的,这样使得通过Transformer配置的量化参数进行量化时,不会影响Transformer的精度。
本发明授权应用于Transformer的批量层归一化方法及装置在权利要求书中公布了:1.一种应用Transformer神经网络的处理方法,其特征在于,所述处理方法具体包括:获取待处理数据,待处理数据为待处理图像;将所述待处理数据输入经过训练的Transformer神经网络,通过所述Transformer神经网络确定所述待处理数据对应的处理后数据,其中,处理后数据为待处理图像中的目标物区域;所述Transformer神经网络配置有批量层归一化处理过程,其中,批量层归一处理过程嵌入到线性层里面,在线性层执行的过程中执行批量归一化处理过程,所述批量层归一化层处理过程为:获取待批量归一化处理的特征图,读取所述Transformer神经网络的全局均值和全局标准差;基于所述全局均值和全局标准差,对所述特征图进行归一化;对归一化后的特征图进行仿射变换,以得到归一化特征图,使得批量层归一处理不会额外增加算力消耗。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人珠海市欧冶半导体有限公司,其通讯地址为:519085 广东省珠海市高新区唐家湾镇湾创路58号8层803室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。