申请/专利权人：南京信息工程大学

申请日：2023-08-11

公开（公告）日：2024-03-29

公开（公告）号：CN117114146B

主分类号：G06N20/20

分类号：G06N20/20;G06F21/56;H04L9/40

优先权：

专利状态码：有效-授权

法律状态：2024.03.29#授权;2023.12.12#实质审查的生效;2023.11.24#公开

摘要：本发明公开了一种联邦学习模型中毒重建的方法、装置、介质及设备，所述方法包括获取中毒的联邦学习模型；基于各客户机在训练期间的本地模型的准确率，筛选出在联邦学习模型训练期间中毒的客户机，删除联邦学习模型中由中毒的客户机聚合得到的局部模型，将中毒的客户机作为恶意节点、未中毒的客户机作为诚实节点，将恶意节点从初始DAG网络中移除，得到第二DAG网络；基于第二DAG网络中各诚实节点的本地模型，逐轮聚合各诚实节点的本地模型，得到联邦学习模型的最新全局模型，完成联邦学习模型中毒重建。本发明能够快速剔除恶意节点，将已有的阶段训练成果加入到新一轮训练中，提高联邦学习的训练效率和抗攻击能力。

主权项：1.一种联邦学习模型中毒重建的方法，其特征在于，包括：获取中毒的联邦学习模型，所述联邦学习模型由各客户机的本地模型聚合得到；所述联邦学习模型，包括：n个客户机，每个客户机节点为ci，i＝1，2，3，…，n，节点ci有本地隐私数据Di；所述联邦学习模型的起始训练时间为t0，t表示训练第t轮，t＝0，1，2，3，…，MAX_Rounds，MAX_Rounds表示联邦学习模型的性能在第MAX_Rounds轮后达到预定目标；所述联邦学习模型的初始训练模型为M0，在训练轮t，参与本轮训练的客户机节点ci基于本地隐私数据Di训练得到本地模型所述本地模型聚合得到全局模型Mt，聚合得到全局模型Mt为所述联邦学习模型；联邦学习正常训练完成时间为tMAX_Rounds，训练得到的联邦学习模型为MMAX_Rounds；所述中毒的联邦学习模型，包括：在训练时刻tpoison遭受攻击，有nmalicious个随机的客户机遭到攻击被控制，成为中毒的客户机，中毒的客户机向联邦学习模型进行投毒攻击，恶意梯度被添加到遭受攻击之后的梯度聚合过程中，联邦学习模型中毒，聚合得到全局模型由Mt被篡改为M_poisont；其中，nmalicious的取值范围为0＜nmalicious＜n；j＝1，2，3，…，nmalicious；t＝tpoison，tpoison+1，tpoison+2，…，tsuspend；在训练时刻tsuspend，联邦学习模型中毒被发现、训练中止，训练中止时得到的全局模型为M_poisonsuspend，训练得到全局模型M_poisonsuspend为所述中毒的联邦学习模型；基于各客户机在训练期间的本地模型的准确率，筛选出在联邦学习模型训练期间中毒的客户机，删除联邦学习模型中由中毒的客户机聚合得到的局部模型，将中毒的客户机作为恶意节点、未中毒的客户机作为诚实节点，将恶意节点从初始DAG网络中移除，得到第二DAG网络；所述筛选出在联邦学习模型训练期间中毒的客户机，包括：步骤a：对联邦学习模型训练中止的第tsuspend轮得到的全局模型M_poisonsuspend进行检索，检索得到参与该轮训练的全部客户机，组成客户机集Csuspend；步骤b：根据实施攻击的敌手模型，初始化准确率阈值所述准确率阈值为敌手模型中恶意节点数的p分位数，所述敌手模型通过下式表示：n＝pvar*f+1其中，n指诚实节点数，pvar指敌手模型中诚实节点数与恶意节点数之比，f指恶意节点数，准确率阈值一般取第一p分位数；步骤c：基于客户机集Csuspend中各客户机ci在训练第tsuspend轮的本地模型，依次测试各本地模型在测试集上的准确率依次比较和若满足则记录该客户机ci的本轮梯度更新为恶意更新否则保留梯度更新使用重新聚合本轮的本地梯度模型，得到第tsuspend轮的全局模型Msuspend；其中，所述测试集为未遭受攻击的全局测试集；步骤d：依据DAG区块链中的DAG网络结构图，对检索第tsuspend-1轮得到的全局模型M_poisonsuspend-1进行检索，检索得到参与该轮训练的全部客户机，组成客户机集Csuspend-1；重复步骤c，得到保留梯度更新和全局模型Msuspend-1；步骤e：重复步骤d共q次，回退至训练的第tsuspend-q轮，得到全局模型Msuspend-q，其中t1≤tpoison≤tsuspend-q＜tsuspend，t1为训练第t1轮，tpoison为遭受攻击的轮次，tsuspend-q为全局模型性能下降的轮次；步骤f：统计第tsuspend-q轮到第tsuspend轮期间客户机ci的梯度更新被认定为恶意更新的次数counti；步骤g：初始化次数临界值countborder，若满足counti＞countborder，则该客户机ci为在训练期间中毒的客户机；基于所述第二DAG网络中各诚实节点的本地模型，逐轮聚合各诚实节点的本地模型，得到联邦学习模型的最新全局模型，完成联邦学习模型中毒重建。

全文数据：

权利要求：

百度查询： 南京信息工程大学 一种联邦学习模型中毒重建的方法、装置、介质及设备

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD