申请/专利权人:浙江工业大学
申请日:2020-05-27
公开(公告)日:2024-04-30
公开(公告)号:CN111754519B
主分类号:G06T7/11
分类号:G06T7/11;G06V10/74;G06N3/04;G06T7/194;G06N3/0464
优先权:
专利状态码:有效-授权
法律状态:2024.04.30#授权;2020.10.30#实质审查的生效;2020.10.09#公开
摘要:本发明公开了一种基于类激活映射的对抗防御方法,包括如下步骤:S1、通过梯度上升方法建立使预测模型中神经元激活值最大化的对比图像集;S2、基于待测图像的类激活映射图定位判定区域;S3、基于二值化算法计算待测图像判定区域和相同标签对比图像判定区域的不一致度;S4、判断待测图像是否带有扰动,若不一致度大于阈值则待测图像带有对抗扰动,反之,为正常图像;S5、移除待测图像中的对抗扰动。本发明所述对抗防御方法通用性高,可抵抗不同的对抗攻击,数据处理成本低,提高了防御效率。
主权项:1.一种基于类激活映射的对抗防御方法,其特征在于,包括如下步骤:S1、通过梯度上升方法建立使预测模型中神经元激活值最大化的对比图像集;S2、基于待测图像的类激活映射图定位判定区域,包括:S21、建立定位模型,所述定位模型与预测模型的区别在于将预测模型中softmax层的上一层改为大小为1,1,c的全局平均池化层;S22、将全局平均池化层的上一卷积层输出的特征图记为h,w,c,全局平均池化层的各通道权重wn分别等于特征图中各通道特征的平均数,其中h,w,c分别表示特征图的长度,宽度和通道总数;S23、将特征图h,w,c对应的热力图经过全局平均池化层池化后,得到该待测图像的类激活映射图CAM,计算公式如1所示: 式中,wn表示全局平均池化层第n层的权重值,fn表示第n通道特征图的热力图;S24、将类激活映射图叠加到待测图像上,选取高亮区域为判定区域;S3、基于二值化算法计算待测图像判定区域和相同标签对比图像判定区域的不一致度;S4、判断待测图像是否带有扰动,若不一致度大于阈值则待测图像带有对抗扰动,反之,为正常图像;S5、移除待测图像中的对抗扰动。
全文数据:
权利要求:
百度查询: 浙江工业大学 一种基于类激活映射的对抗防御方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。