恭喜西安交通大学郑南宁获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜西安交通大学申请的专利一种基于样本的选择性知识蒸馏方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115761403B 。
龙图腾网通过国家知识产权局官网在2025-05-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211441887.9,技术领域涉及:G06V10/774;该发明授权一种基于样本的选择性知识蒸馏方法及系统是由郑南宁;李劲承;沈艳晴;周三平;付靖文;陈仕韬;王若彤设计研发完成,并于2022-11-17向国家知识产权局提交的专利申请。
本一种基于样本的选择性知识蒸馏方法及系统在说明书摘要公布了:本发明公开了一种基于样本的选择性知识蒸馏方法及系统,首先训练分割SEG图像和RGB图像分别完成VPR任务的网络,再将SEG特征中包含的高质量知识迁移到RGB特征中,将分割图像中的不变性特征在RGB特征中进行强化的同时,不需要在测试时保留额外的分支网络,将分割图像通过加权独热编码输入到训练网络中,提取针对视觉位置识别任务的场景结构信息;通过基于样本的选择性知识蒸馏,根据重要性施加不同的蒸馏损失权重,通过知识蒸馏的方式将额外模态信息中的不变性特征在RGB特征中进行强化,定向地强化高质量的知识,更大程度地提升网络精度;最终网络在测试时只用到RGB图像进行全局检索,兼顾了系统的实时性、高精度和环境鲁棒性。
本发明授权一种基于样本的选择性知识蒸馏方法及系统在权利要求书中公布了:1.一种基于样本的选择性知识蒸馏方法,其特征在于,包括两个阶段,第一阶段包括以下步骤:采用MobileNetV2网络作为第一训练阶段的RGB分支网络,将MobileNetV2网络输出的多层特征图合并处理,得到RGB全局特征采用简化的MobileNetV2网络作为第一训练阶段的SEG分支网络,将简化版MobileNetV2网络输出的多层特征图合并处理,得到SEG全局特征第二阶段包括以下步骤:对分割图像编码,采用one-hot编码形式将SEG图像转化为张量,one-hot编码形式转化为加权的编码,加大静态物体的初始编码值,降低动态物体的初始编码值;使用三元损失作为网络的监督分别训练SEG分支网络和RGB分支网络,基于训练过的RGB分支网络和SEG分支网络,分别计算每个训练集样本对的全局距离;设计样本集划分策略,得到样本对划分结果,其中,样本对为1个查询图像和1个正样本组成;所述样本集划分策略中,采用直角坐标系加以量化,并以设定的条件将样本集划分为不同的群,其中横轴x代表样本对p,q用训练过的SEG分支测试时,p在q的召回结果中的排名;纵轴y则代表样本对在RGB分支上的表现;基于样本对划分结果,设定一个权重函数为每个样本对赋予其在蒸馏过程中的重要性程度;通过RGB分支网络和最终的损失函数完成训练,而后通过RGB分支网络进行最终的测试推理,最终的损失函数由三元损失函数和每个样本对的蒸馏损失函数求和得到;采用MobileNetV2网络作为第二训练阶段的RGB分支网络;将所述RGB分支网络输出的多层特征图合并处理,得到最终的全局特征;所述权重函数如下: 其中权重函数和y-x成正比,和x成反比,Nm是一个常量超参数;每个样本对的蒸馏损失函数为: 其中表示第一阶段SEG网络提取的全局特征,表示第二阶段RGB网络提取的全局特征,T·是全连接层,将两个全局特征的维度调为一致;样本集进行群划分定义式如下: 其中N是一个常量超参数。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西安交通大学,其通讯地址为:710048 陕西省西安市碑林区咸宁西路28号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。