买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:北京大学
摘要:本发明公开了一种基于鲁棒模型的类别特异性强的特征归因方法,属于神经网络可解释性方法领域。本发明构建鲁棒的图像分类模型,获取当前图像和数据集中所有类别的初始特征激活映射图,通过计算各类别初始特征激活图与目标类别的相关矩阵,计算特异性特征归因图DFA,最终得到归因结果。本发明综合考虑了数据集中所有类别的相关关系,从而提升了特征归因结果的类别特异性;且与现有技术相比,提高了特征归因结果的可解释性。
主权项:1.一种基于鲁棒模型的类别特异性强的特征归因方法,其步骤包括:A.构建鲁棒的图像分类模型,实现方法为:A1.数据集构建:获取训练图像,包含每张图像x对应的类别标签y,构建的数据集记为X:{xi,yi|i∈[1,N]};A2.分类模型搭建:选择现有的任意一种用于图像分类的深度学习模型结构或创建新的深度学习模型结构,记搭建好的图像分类模型为fΘ·,其中Θ为可训练参数;A3.对抗扰动图像数据获取:具体步骤为,使用PGD算法来获取训练阶段所需的对抗噪声扰动,基于A1构建的图像数据集和A2搭建的分类模型,在每个epoch中获取对抗噪声扰动δ和扰动后的输入图像x′:x′=x+δ 其中,PGD算法为一种迭代式算法,t为算法迭代次数,α为每一次迭代梯度下降的步长,表示对抗噪声扰动的强度限制在强度∈以内,sign·为符号函数,为分类模型训练使用的损失函数;A4.模型训练:在每一个epoch中,首先获取一个批次的训练数据,基于A3的方法获取对抗扰动后的图像x′,输入模型得到预测结果根据原始图像x的分类标签y,使用损失函数计算批损失,使用随机梯度下降法更新模型参数;A5.重复A3~A4步骤,直至模型训练的批损失收敛到稳定极小值,此时的模型参数状态即为训练好的鲁棒的图像分类模型;B.将图像输入到步骤A构建的模型中,获取模型对当前图像和数据集中所有类别的初始特征激活映射图M;C.计算所有类别的初始特征激活映射图与目标类别的相关矩阵S;D.计算特异性特征归因图DFA,给定输入图像x和特征归因的目标类别k,DFA的计算方式为:DFAx,k=ReLUSkMT,即得到最终的归因结果。
全文数据:
权利要求:
百度查询: 北京大学 一种基于鲁棒模型的类别特异性强的特征归因方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。