龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：电子科技大学
摘要：该发明公开了一种用图像识别的多教师蒸馏域知识记忆与迁移方法，属于图像识别领域。本发明通过三个策略来有效地寻找多个教师：权重重排列、特征摄动、和多样性正则。为减少多个教师在推理时间以及存储上的消耗，每个教师被表达为原始模型的一个小分支。最终，源域上的知识通过多个模型进行记忆，同时通过将源域上的多模型作为教师使用蒸馏损失将知识迁移到目标域上。本发明所提出的基于多教师蒸馏的域知识记忆与迁移方法，能够从多方位对源域知识进行高效地记忆，并通过多教师蒸馏损失有效地将知识迁移到目标域上。同时，以分支的结构表达多个教师能够显著地降低推理时间以及存储上的消耗。
主权项：1.一种用图像识别的多教师蒸馏域知识记忆与迁移方法，该方法包括：步骤1：采用源域中的样本图像训练一个基础图像识别模型，所述基础图像识别模型包括：依次串联的L层卷积层和分类器；步骤2：将训练好的基础图像识别模型的最后M层卷积层和分类器复制n-1次，得到n-1个教师模型；这n-1个教师模型的输入都为基础模型中第L-M层卷积层的输出；步骤3：对步骤2获得的n-1个教师模型中的各层卷积层参数进行随机重排列，得到n-1个新教师模型；步骤4：对每个新教师模型引入一个摄动，使每个新教师模型的输入产生改变；步骤5：从全体源域样本图像中为每个类别随机采样相同数量的K个样本，用于构建源域的类别平衡子集；步骤6：在类别平衡子集上使用损失对各教师模型进行优化；损失包括：多样性正则损失分类损失迁移损失步骤7：在目标域上使用蒸馏损失将多教师知识蒸馏迁移到基础图像识别模型上，得到新图像识别模型；步骤8：对新图像识别模型进行微调训练；步骤9：采用微调后新图像识别模型进行新图像的识别。
全文数据：
权利要求：
百度查询： 电子科技大学 一种用图像识别的多教师蒸馏域知识记忆与迁移方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号