申请/专利权人：南京信息工程大学

申请日：2024-01-04

公开（公告）日：2024-04-16

公开（公告）号：CN117523342B

主分类号：G06V10/774

分类号：G06V10/774;G06V10/764;G06V10/82;G06N3/045;G06N3/0475;G06N3/084;G06N3/094;G06N3/096

优先权：

专利状态码：有效-授权

法律状态：2024.04.16#授权;2024.02.27#实质审查的生效;2024.02.06#公开

摘要：本发明公开了一种高迁移性对抗样本生成方法、设备及介质，首先使用现有的特征级攻击方式进行攻击后生成对抗样本，该对抗样本在原模型上获得新特征作为强化方向。通过在干扰原始特征的同时，进一步强化新生成的特征，来达到提升对抗样本迁移性的目的。本发明相比于其他只干扰原始特征的特征级方法，本发明通过聚合原始特征梯度和新生成特征梯度来构建的损失函数。在干扰图像的原始特征的同时去强化新生成的特征。在迁移攻击其他模型时更加容易被攻击成为新生成的特征类别，这样可以生成更高迁移性的对抗样本。

主权项：1.一种高迁移性对抗样本生成方法，其特征在于：包括如下步骤：步骤1：将原始图像x输入分类模型f，获取分类模型f第k层中间层输出的特征图fkx；步骤2：将原始图像x的随机像素点替换成随机噪音得到随机噪音扰动图像步骤3：将随机噪音扰动图像输入分类模型f中，分别得到图像原始特征类别标签r的输出和特征攻击后新生成特征类别标签t的输出根据分别进行梯度反向传播到第k层中间层得到图像原始特征梯度和新生成特征梯度其中，l表示分类模型输出的类别置信率，表示随机扰动图像输入分类模型f后从第k层卷积层输出的特征图，表示求导；步骤4：重复步骤2到步骤3，直到预设次数N次，将得到的N个图像原始特征梯度聚合得到将得到的N个新生成特征梯度聚合得到其中，C1表示对的结果求2-范数的值；C2表示对的结果求2-范数的值；步骤5：构建损失函数其中，⊙表示对应点的乘积，β表示影响因子，x′表示待确定的对抗样本，fkx′表示将x′输入分类模型f后从第k层卷积层输出的特征图；步骤6：根据损失函数Lx′构建优化损失函数模型，对优化损失函数模型进行求解，得到最终对抗样本；所述优化损失函数模型，具体包括： s.t.||x′-x||∞≤ε其中，表示损失函数Lx′最小值时的x′；||x′-x||∞≤ε表示x′是在ε范围内改动原始图像x的像素点的值得到的对抗样本；||·||∞表示无穷范数，ε表示超参数。

全文数据：

权利要求：

百度查询： 南京信息工程大学 一种高迁移性对抗样本生成方法、设备及介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD