申请/专利权人：厦门大学

申请日：2019-08-06

公开（公告）日：2024-03-22

公开（公告）号：CN110674836B

主分类号：G06V10/774

分类号：G06V10/774;G06V10/764;G06V10/82;G06N3/0475;G06N3/094;G06N3/0464;G06N3/0455

优先权：

专利状态码：有效-授权

法律状态：2024.03.22#授权;2020.02.11#实质审查的生效;2020.01.10#公开

摘要：一种基于生成网络的稀疏对抗样本生成方法，涉及对抗样本、深度神经网络。针对传统稀疏对抗样本需要多次迭代从而生成速度慢的缺点，考虑通过一次网络前向过程生成对抗样本，同时将对抗样本生成与稀疏约束解耦，提供一种基于生成网络的稀疏对抗样本生成方法。包括以下步骤：1构造一种基于稀疏约束的对抗样本，仅改变少数的像素点像素值，使得图片被对应模型分类错误；2生成模型采用双路U‑Net网络模型，分离对抗样本生成部分与稀疏约束部分；3采用新的量化误差函数，减少训练与测试过程中稀疏掩码的量化差异；4生成的稀疏掩码有潜在语义含义，可以在多个模型之前迁移。

主权项：1.一种基于生成网络的稀疏对抗样本生成方法，其特征在于包括以下步骤：1构造一种基于稀疏约束的对抗样本，仅改变少数的像素点像素值，使得图片被对应模型分类错误；2生成模型采用双路U-Net网络模型，分离对抗样本生成部分与稀疏约束部分，具体方法如下：基于U-Net网络设计基本编码器-解码器网络结构，对于输入x，解码器分成两个模块，其中一个模块用于生成对抗样本Px，在最后层使用tanh·激活函数输出；另一个模块用于生成稀疏掩码Mx；采用离散优化的方式，首先另稀疏掩码模块输出为C，并定义饱和Sigmoid函数为：σ′x＝max0，min1，1.2×σx-0.1，其中，σ·为常规Sigmoid函数；在训练过程中，将一个由正态分布生成的随机噪声n添加至C上，并通过饱和Sigmoid函数获得向量v1x＝σ′C+n，以0.5为阈值得到向量v1x的离散表达为： 在前向过程中，随机取一半Mx＝v1x，另一半为Mx＝v2x，在反向过程中，梯度只通过v1x更新，在测试阶段，为保证二值化，只使用Mx＝v2x；最后，通过获得对应的对抗样本；3采用新的量化误差函数，减少训练与测试过程中稀疏掩码的量化差异，具体如下：对于对抗样本的生成，两个优化目标需要被考虑：对抗样本需要与原图看起来相似、被攻击模型在对抗样本与原图的预测上应该不同；对于前者，由于稀疏约束的限制，不是必须的；采用图像重构的方式，采用l1距离约束来约束对抗样本与原图的相似性，具体优化目标如下：LrecPx，x＝||Px-x||1.为了满足攻击成功的要求，采用常用的CW攻击损失函数，表示为如下形式：LattPx＝maxZPxt-max{ZPxi：i≠t}，0，其中，Z·为被攻击模型Softmax层前一层的输出，t为原图的预测标签，Zxi为Zx的第i个元素；4生成的稀疏掩码有潜在语义含义，在多个模型之前迁移，具体如下：通过约束范数来约束稀疏掩码的稀疏度，表示为： 其中，n为像素点个数；尽管采用离散优化的手段，但训练与测试过程中的量化误差依然会带来攻击性能的下降；为了减少量化误差，Mx的值应该接近0或者1，一种直接的损失函数定义为：b1v＝v-v2梯度在v接近最优点时增大，导致难以收敛的问题，采用b2v＝v-v22的形式，相关损失函数表示为： 整体的损失函数表示为：L＝Latt+λ1Lrec+λ2Lsparse+λ3Lbin，其中，λii＝1，2，3为超参用以控制每部分的权重，整体网络使用随机梯度下降法进行端到端的训练。

全文数据：

权利要求：

百度查询： 厦门大学 一种基于生成网络的稀疏对抗样本生成方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD