申请/专利权人：浙江工业大学

申请日：2021-06-11

公开（公告）日：2024-03-19

公开（公告）号：CN113283590B

主分类号：G06N3/094

分类号：G06N3/094;G06N3/045;G06N3/0475;G06N3/042;G06F18/2415;G06F21/55

优先权：

专利状态码：有效-授权

法律状态：2024.03.19#授权;2021.09.07#实质审查的生效;2021.08.20#公开

摘要：本发明涉及人工智能技术领域，具体公开一种面向后门攻击的防御方法，包括如下步骤：步骤1，获取图神经网络模型Moracle及其训练数据集Dataoracle；步骤2，对训练数据集Dataoracle进行预处理；步骤3，构建生成器网络G，得到预测图Ypred；步骤4，构建鉴别器网络D，并输出图数据二分类的结果；步骤5，防御模型的训练，完成后门攻击的防御网络模型搭建；步骤6，将删减连边处理后的任务数据Dreal输入到生成器网络G中进行数据重建，得到任务结果。本发明的防御方法能直接破坏插入在图数据中的触发器结构，导致它无法取得该有的效果，但又不影响正常样本，模型对于输入正常样本仍然可以表现出应有的性能。

主权项：1.一种面向后门攻击的防御方法，其特征在于，包括如下步骤：步骤1，获取图神经网络模型Moracle及其训练数据集Dataoracle；步骤2，对训练数据集Dataoracle进行预处理：取出部分数据组成干净样本数据集Dataclean，连边操作后获得新的训练数据集Datadeal，将新的训练数据集Datadeal划分为训练集Datatrain，验证集Dataval和测试集Datatest；步骤3，构建生成器网络G，将所述训练集Datatrain中样本数据输入到生成器网络G中，得到重要性数值eij；将所述重要性数值eij输入softmax层得到相应的节点嵌入h'，将节点嵌入h'经解码器解码得到预测图Ypred；步骤4，构建鉴别器网络D，将所述干净样本数据集Dataclean和预测图Ypred输入鉴别器，经鉴别器网络D特征提取得到相应的节点嵌入Ztrain，将节点嵌入Ztrain输入全连接层FC和softmax层，输出图数据二分类的结果；步骤5，防御模型的训练：对生成器网络G和判别器进行优化训练，得到训练后的生成器网络G作为后续防御网络；将所述数据训练集Datatrain和生成器网络G的优化函数输入到后续防御网络中降低模型的损失函数值，完成后门攻击的防御网络模型搭建；步骤6，防御模型中生成器网络的应用：将删减连边处理后的任务数据Dreal输入到生成器网络G中进行数据重建，得到最终数据Dreal_defense，再将该数据送入执行下有任务的模型Moracle中，得到任务结果；步骤3中，生成器网络G包括编码器和解码器，所述编码器为GAT网络，所述解码器为全连接层FC网络；得到重要性数值eij的过程具体包括：将所述训练集Datatrain中每一样本数据转换成相应的邻接矩阵Atrain和特征矩阵Xtrain～U0,1，输入到生成器网络G中，其中特征矩阵Xtrain作为噪声输入，通过GAT网络得到节点的嵌入，从输入数据得到的节点特征的集合表示为： 其中，为节点i的特征向量,N为节点的数量，F节点的特征维度；eij代表节点j对节点i的重要性程度，a为映射函数，W为权重参数矩阵；步骤4中，取得相应的节点嵌入Ztrain的过程具体包括：将所述干净样本数据集Dataclean和预测图Ypred输入鉴别器，经过GCN网络进行数据的特征提取,Z∈RN×F是节点通过GCN所得到的嵌入特征，X∈RN×D是特征矩阵Xtrain，A∈RN×N是邻接矩阵Atrain，N其中为节点的个数，D为节点的特征维数，W0、W1分别为第一、第二层权重参数，ReLU为激活函数，得到相应的节点嵌入Ztrain。

全文数据：

权利要求：

百度查询： 浙江工业大学 一种面向后门攻击的防御方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD