申请/专利权人：浙江大学

申请日：2023-11-30

公开（公告）日：2024-03-22

公开（公告）号：CN117744829A

主分类号：G06N20/00

分类号：G06N20/00;G06F18/23213;G06F18/24;G06N3/084;H04L9/40

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.04.09#实质审查的生效;2024.03.22#公开

摘要：本发明公开了一种针对语音联邦学习场景下的恶意客户端检测方法。该方法为：基于历史模型更新来预测每个客户端在每次迭代中的语音模型；度量每次迭代中每个客户端的预测模型及其发送给服务器的模型之间的相似性；在每次迭代中根据统计数据将客户端分组为良性客户端和恶意客户端两个集群，并删除恶意客户端并在剩余的客户端上重新启动步骤4‑7的语音联邦学习进程，直至总训练迭代轮数结束，此时所有恶意客户端被删除。与现有检测方法相比，本发明可以检测到大多数恶意客户端，在面对大量恶意客户端的模型中毒攻击时具有优越的防御效果，同时，本方法还能与拜占庭式鲁棒联邦学习方法相结合，使语音联邦学习系统学习到准确的全局语音模型。

主权项：1.一种针对语音联邦学习场景下的恶意客户端检测方法，其特征在于，该方法包括以下步骤：1选取开始检测的迭代轮数、总训练迭代轮数和窗口大小；2模型更新：服务器将当前全局语音模型发送给客户端或客户端的一个子集；每个客户端在其本地语音训练数据上对接收到的全局语音模型执行随机梯度下降得到新的模型参数，对模型参数进行更新并将更新模型发送回服务器；其中，良性客户端会计算和报告真实的模型，而恶意客户端会发送精心设计的模型；3循环进行步骤2至所述开始检测的迭代轮数，进入步骤4；4执行步骤2进行模型更新；5预测每个客户端的模型；首先需要使用L-BFGS算法近似得到一个黑塞矩阵；接着基于所述黑塞矩阵和柯西均值定理预测得到每个客户端的模型；其中，良性客户端的预测模型与其发送给服务器的模型相似，恶意客户端的预测模型与其发送给服务器的模型不同，以此为依据检测恶意客户端；6度量每个客户端的预测模型及其发送给服务器的模型之间的相似性；7检测恶意客户端，将客户端分为良性客户端和恶意客户端两个集群；统计步骤6得到的相似性度量数据，将客户端分为一至两个集群，如果分为一个集群，则本次迭代未检测到恶意客户端，如果分为两个集群，则将其中一个归类为恶意客户端；8若步骤7未检测到恶意客户端，则服务器聚合各客户端发送的模型得到新模型参数，并基于所述新模型参数来更新全局语音模型，接着继续循环步骤4-7；若有客户端被步骤7分类为恶意客户端时，服务器停止步骤4-7的语音联邦学习进程，删除检测到的恶意客户端，并在剩余的客户端上重新启动步骤4-7的语音联邦学习进程，直至总训练迭代轮数结束，此时所有恶意客户端被删除，恶意客户端检测完成。

全文数据：

权利要求：

百度查询： 浙江大学 一种针对语音联邦学习场景下的恶意客户端检测方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD