申请/专利权人：西安电子科技大学

申请日：2024-01-11

公开（公告）日：2024-04-09

公开（公告）号：CN117852045A

主分类号：G06F21/57

分类号：G06F21/57;G06F21/44;G06V10/82;G06V10/774

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.04.26#实质审查的生效;2024.04.09#公开

摘要：本发明提出了一种针对图像分类模型的后门触发器检测方法，实现步骤为：获取训练样本集；获取每个类别的高熵数据集和低熵数据集；获取候选后门触发器的位置；确定候选后门触发器；获取每类高熵图像的标签转换检测图像；获取后门触发器的检测结果。本发明通过对每个目标类别的多幅低熵图像的均值图像像素点的设置，获取每个类别的候选后门触发器位置矩阵，并通过该位置矩阵与该类别对应的任意一幅低熵图像确定候选后门触发器，避免了现有技术需要生成多个对照模型导致的计算量大耗时长的缺陷，且在对每个类别的潜在后门触发器进行恢复的过程中不需要优化目标函数，有效提高了检测效率和所恢复触发器的精度。

主权项：1.一种针对图像分类模型的后门触发器检测方法，其特征在于，包括如下步骤：1获取训练样本集：将包含Y个目标类别且每个类别包含Q幅图像、其中的一个类别中部分图像带有后门触发器的总共N幅图像及其类别标签作为训练样本集，其中，Y≥2，Q≥100，N≥500；2获取每个类别的高熵数据集和低熵数据集：通过训练样本集对深度卷积神经网络模型进行迭代训练，并根据训练好的深度卷积神经网络模型M输出的每个训练样本Xn置信向量Pn计算Xn的熵En，再选取每个目标类别的K幅最大熵值、最小熵值对应的图像组成包含Y×K幅高熵图像的高熵图像集、包含Y×K幅低熵图像的低熵图像集，得到Y个目标类别的高熵图像集的集合和低熵图像集的集合，其中10≤K≤50；3获取候选后门触发器的位置：将每个目标类别包含的K幅低熵图像的均值图像BAy中异常值像素点置为1，将其余的像素点置为0，并将得到Y个由0和1组成的像素点矩阵Mask＝[Mask1,Mask2,......,Masky,...,MaskY]作为候选后门触发器的位置矩阵；4确定候选后门触发器：计算每个类别对应的候选后门触发器的位置矩阵Masky与该类别对应的任意一幅低熵图像B哈达玛积Ty，并将其作为第y类目标的候选后门触发器；5获取每类高熵图像的标签转换检测图像：将除第y类以外的其余类高熵图像集全部作为第y类的标签转换检测图像，得到包含Y×KY-1幅高熵图像的标签转换检测图像集；6获取后门触发器的检测结果：将步骤4中获取的第y类的候选后门触发器Ty添加到步骤5中获得的第y类标签转换检测图像集的每幅高熵图像Hi上，并将修改后每幅高熵图像Hi′的作为训练好的深度卷积神经网络M的输入并预测每幅高熵图像的类别标签，计算预测类别标签是y的数量Count占第y类标签转换检测图像集的比例Ratio，Ratio最大值所对应的类的候选后门触发器即为最终检测到存在于图像分类模型中的后门触发器。

全文数据：

权利要求：

百度查询： 西安电子科技大学 一种针对图像分类模型的后门触发器检测方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD