买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜浙江大学申请的专利一种基于孪生知识蒸馏与自监督学习的小样本分类方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114298160B 。

龙图腾网通过国家知识产权局官网在2025-03-21发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202111482687.3，技术领域涉及：G06V10/764；该发明授权一种基于孪生知识蒸馏与自监督学习的小样本分类方法是由于云龙;靳莉莎设计研发完成，并于2021-12-07向国家知识产权局提交的专利申请。

本一种基于孪生知识蒸馏与自监督学习的小样本分类方法在说明书摘要公布了：本发明公开了一种基于孪生知识蒸馏与自监督学习的小样本分类小样本方法，将孪生知识蒸馏与自监督学习相结合用于下游小样本分类任务。具体包括如下步骤：获取用于训练孪生知识蒸馏模型的图像数据集；利用图像数据集从头训练预先定义好的孪生知识蒸馏网络，优化目标是孪生知识蒸馏与自监督相结合的损失函数；获得了训练好的特征提取器F，并将它应用于小样本分类任务。本发明在3个小样本分类任务基miniImageNet，tieredImageNet和CIFAR‑FS上均有很好的表现，证明了本发明在性能上的有效性与优越性。

本发明授权一种基于孪生知识蒸馏与自监督学习的小样本分类方法在权利要求书中公布了：1.一种基于孪生知识蒸馏与自监督学习的小样本分类方法，其特征在于，包括以下步骤：S1、获取用于训练孪生知识蒸馏网络模型与测试小样本分类任务的图像数据集；S2、建立由特征提取网络和分类器网络构成的孪生知识蒸馏网络模型，并使用孪生知识蒸馏与自监督学习相结合的方法训练所述孪生知识蒸馏网络模型；具体包括：S21、从用于训练孪生知识蒸馏网络的图像数据集中随机采样一个批量的图像样本其中批量大小Nbs预先给定；S22、对于基类中的一个样本x,通过特征提取网络与分类器网络得到它的类别预测向量，即z＝[z1,…,zi,…,zm]，再经过softmax分类器得到它属于第i类的预测概率 其中，τ0是温度缩放参数，它控制softmax输出的归一化概率分布的平滑性；M为类别个数；对于多分类任务，目标损失函数为LCEx＝Hy,Px其中，H表示交叉熵损失，Px是输入x的预测的概率分布，y是类别真实标签；S23、将相同类别的一对样本作为所述孪生知识蒸馏网络模型的输入，得到各自的概率分布PSxi与PSxj，让PTx＝PSxi+PSxj2作为教师，分别去蒸馏两个学生分布；同时，两个学生概率分布也要受类别真实标签的监督LTwinKdxi,xj＝Hαy+βPTx,PSxi+Hαy+βPTx,PSxj，其中，α和β是平衡教师监督与类别真实标签监督的两个超参数，并且有α+β＝1；PTx不进行梯度传播；S24、使用自监督学习中的2D图像旋转来增强数据，旋转角度分别为R＝{90°,180°,270°}，由于样本本身可以看作0°旋转，因此合起来的旋转集可以表示为R′＝{0°,90°,180°,270°}；对于一个输入样本，先创建它的三个旋转图像其中表示把样本xi旋转r角度；然后用特征提取器F提取它们的特征表示，之后正则化输入样本对和它们的增强样本的特征表示 分类器网络G把特征表示映射入标签空间来预测标签，之后从平均概率值蒸馏知识到旋转的样本；相应的自监督知识蒸馏定义为 其中PTx是输入样本对预测概率PSxi与PSxj的均值；同时，由输入样本与它的旋转样本提取到的logit向量GFx，旋转分类器去预测它们的旋转角度标签r；因此自监督损失公式为 其中Qx＝[q1x,…,qRx]是旋转预测概率向量，通过下式获得 其中，u表示样本x旋转向量；综上所述，本网络的整个优化目标为 S26、根据得到的优化目标，使用带动量的随机梯度下降优化器，以及反向传播算法训练所述孪生知识蒸馏网络模型；S27、重复步骤S21至S26直至模型收敛；S3、将训练好的孪生知识蒸馏网络模型应用于小样本分类任务。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江大学，其通讯地址为：310058 浙江省杭州市西湖区余杭塘路866号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。