申请/专利权人：浙江大学;浙江大学杭州国际科创中心

申请日：2023-12-08

公开（公告）日：2024-03-19

公开（公告）号：CN117728997A

主分类号：H04L9/40

分类号：H04L9/40;G06N20/00;G06N3/098

优先权：

专利状态码：在审-实质审查的生效

法律状态：2024.04.05#实质审查的生效;2024.03.19#公开

摘要：本发明公开了一种具有后门鲁棒性并衡量用户贡献度的联邦学习聚合算法，通过检测模型更新中可能存在后门的更新，对其进行加噪来消除后门，而正常更新不需要加噪，之后对所有更新利用shapleyvalue方法计算出贡献度，根据每个更新的贡献度计算出其在聚合中所应占的权重，根据计算出来的权重进行模型聚合来更新全局模型，从而实现降低模型遭受后门攻击的风险，并度量每个节点的贡献度。对含有后门的恶意更新加噪从而消除后门在一定程度上会影响其主要训练任务的精确度，从而会降低其贡献度值，这也属于一种对于恶意节点的惩罚，最后根据每个更新的贡献度值计算每个更新的聚合权重而进行聚合而不是采用平均权重。

主权项：1.一种具有后门鲁棒性并衡量用户贡献度的联邦学习聚合算法，其特征在于，包括以下步骤：S1中心服务器初始化一个全局模型，分发给所有参与联邦学习的用户节点；S2用户节点用本地数据集来训练中心服务器所发送来的全局模型，其中正常用户节点用正常数据集进行一定轮数的训练得到更新后的局部模型，恶意节点利用其所掌控的正常数据集构建包含后门的数据集，用其所掌控的正常数据集与包含后门的数据集共同来训练得到局部模型，所有参与训练的节点将模型更新返回给中心服务器；S3中心服务器运行恶意更新检测算法来检测本轮所收集到的来自用户节点的所有模型更新，检测出正常的模型更新与带有后门的模型更新；S4中心服务器对检测出的带有后门的模型更新进行DPDifferencialPrivacy-based加噪算法，使得加噪后的模型更新的后门失效；S5中心服务器对检测出的正常的更新以及加噪后的模型更新运行基于shapleyvalue的算法得到每个节点的贡献度值，并根据每个节点的贡献度值来计算出其在本轮模型聚合中所占的聚合权重；S6中心服务器根据S5计算所得到的聚合权重进行模型聚合得到新的全局模型，并保留本轮所收集到的所有节点的模型更新，以便后续shapleyvalue算法的运行；S7判断联邦学习是否达到结束标准，若未达到，中心服务器将新的全局模型发送给下一轮参与联邦学习的所有节点，返回S2进行迭代，若达到则结束训练，进行结算。

全文数据：

权利要求：

百度查询： 浙江大学;浙江大学杭州国际科创中心 一种具有后门鲁棒性并衡量用户贡献度的联邦学习聚合算法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD