买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中国矿业大学
摘要:本发明公开了一种基于群体的Siamese自监督学习方法,该方法采用Siamese网络结构,将经过数据增强的两个相关视图随机裁剪成N个固定大小的重叠图像块,将图像块进行数据增强后分别输入到特征编码器获得多个特征值。该特征编码器由一个ResNet‑18网络和两个线性层组成。利用Siamese网络的两个分支产生的特征集来计算交叉相关矩阵损失,并采用rank‑k三元组损失来避免来自同一类的两个样本作为负特征对组的错误分类。本方法能够解决自监督学习中单视图特征的局限性,在很少的迭代轮次中即可取得显著的收敛性,使预训练得到的ResNet‑18具有很好的分类效果,在多个数据集上优于最先进的自监督学习技术。
主权项:1.一种基于群体的Siamese自监督学习方法,其特征在于:包括如下步骤:S1、对于一批包含M个图像的数据集U=[U1,U2,…,UM],对所有M个图像进行数据增强,生成两组扭曲视图,分别记为A=[A1,A2,…,AM]和B=[B1,B2,…,BM],Aj和Bj表示对数据集U中第j个图像Uj进行数据增强得到的两个扭曲视图,j=1,2,…,M;S2、对扭曲视图进行随机的重叠裁剪,划分为N个图像块,对重叠裁剪后的图像块进行顺序编码和数据增强,对于数据集A得到N组图像块,数据集A的第i组图像块记为表示扭曲图像Aj的第i个经数据增强的图像块;对于数据集B得到N组图像块,数据集B的第i组图像块记为表示扭曲图像Bj的第i个经数据增强的图像块;i=1,2,…,N;S3、将第i组图像块Ai和Bi分别输入到特征编码器F中计算特征向量并进行归一化处理,得到为以及S4、将所有的特征向量Zi组合在一起,形成Z=[Z1,Z2,…,ZN]T,计算均值将表示为将所有的特征向量Wi组合在一起,形成W=[W1,W2,…,WN]T,计算均值将表示为S5、计算Zi和的互相关矩阵计算Wi和的互相关矩阵互相关矩阵的对角线元素表示图像块Ai和Bi属于同一类的概率,非对角线元素表示图像块Ai和Bi之间的差异性;在通过互相关矩阵计算图像块Ai和Bi属于同一类的概率时,使用rank-k三重损失防止对负特征集的误判;在rank-k三重损失中,先确定一个k值,同时构造和之间的余弦相似度矩阵R,R中第i行j列元素Rij表示中的第i个样本和中的第j个样本的余弦相似度计算值:若i=j,即Rij在余弦相似度矩阵的对角线位置,将作为正特征对,表示和属于同一类;若i≠j,则将作为负特征对,表示和不属于同一类;为了防止对负特征对的误判,要求第i行对角线位置的元素Rii大于同时将第i行中小于的元素所对应的两个样本归类为负样本,表示R中第i行元素中的第k个最大值。
全文数据:
权利要求:
百度查询: 中国矿业大学 一种基于群体的Siamese自监督学习方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。