申请/专利权人：内蒙古科技大学

申请日：2022-07-04

公开（公告）日：2024-07-05

公开（公告）号：CN115147682B

主分类号：G06V10/774

分类号：G06V10/774;G06V10/82;G06V10/764

优先权：

专利状态码：有效-授权

法律状态：2024.07.05#授权;2022.10.25#实质审查的生效;2022.10.04#公开

摘要：本发明公开了一种具有迁移性的隐蔽白盒对抗样本生成方法及装置，涉及人工智能安全领域，本发明方法中，使用动量迭代法更新像素二阶重要性分数，稳定像素重要性分数的更新，摆脱局部最大值；然后使用自适应攻击步长，将对抗扰动集中在图像中被不同模型采用的共同关键特征上，减少对图像背景破坏；通过以上两种手段增加对抗样本的迁移性；解决了本发明的现有技术中白盒对抗样本技术过度拟合被攻击的深度神经网络，攻击其他黑盒模型时效果不佳，表现出较低的迁移性的问题。

主权项：1.一种具有迁移性的隐蔽白盒对抗样本生成方法，其特征在于，所述方法包括如下步骤：S1、在图像分类任务中，获取输入图像的图像数据，在图像数据上使用像素二阶重要性计算获得图像数据上每个像素的二阶重要性得分，得到对抗扰动的方向；S2、使用动量迭代法更新步骤S1获得的二阶重要性得分，并使用自适应归一化，得到对抗扰动攻击步长；在图像数据上添加对抗扰动生成对抗样本；S3、通过l2范数约束条件对步骤S2获得的对抗样本进行判断并输出；具体的，将符合l2范数约束条件的对抗样本输出；否则，将更新后的图像数据作为步骤S1的输入图像数据，再迭代执行步骤S1-S3；步骤S1包括如下步骤：S1.1、在图像分类任务中，输入已训练好的深度神经网络图像作为图像数据其中R为输入图像的集合，B为图像批次数量，C为图像颜色通道数，H为图像高度，W为图像宽度；S1.2、计算深度神经网络损失函数L关于步骤S1.1图像数据的一阶梯度矩阵与Hesse二阶梯度矩阵S1.3、将梯度矩阵与Hesse矩阵相乘进行像素二阶重要性计算，获得图像数据上每个像素的二阶重要性得分gsx；步骤S2包括如下步骤：S2.1、将图像数据上每个像素的二阶重要性得分使用动量迭代法进行更新，令当前第t轮的每个像素的累积二阶重要性得分为其中μ为衰减因子，是一个超参数；S2.2、将获得的累积重要性得分进行归一化处理得到自适应归一化值，即：然后将自适应归一化值与一个固定的攻击步长α相乘，获得自适应攻击步长αs；其中攻击步长α为一个超参数；S2.3、结合对抗扰动方向与对抗扰动自适应攻击步长得到当前轮对抗扰动δt，并在当前的图像数据上添加对抗扰动得到对抗样本，计算公式为： 其中，为第t轮的对抗样本，δt为第t轮的对抗扰动，当t为0时clip为剪裁函数，将图像像素约束在[0，1]范围内；sign为符号函数，用来获取图像数据上每个像素的累积二阶重要性gt的方向。

全文数据：

权利要求：

百度查询： 内蒙古科技大学 一种具有迁移性的隐蔽白盒对抗样本生成方法及装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD