买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜福建师范大学;中国热带农业科学院热带生物技术研究所申请的专利基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119416915B 。

龙图腾网通过国家知识产权局官网在2025-05-16发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510004062.8，技术领域涉及：G06N20/00；该发明授权基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法是由汪晓丁;阙友雄;许力;吴期滨;熊金波;林丽美;黄艳泽;金凯立设计研发完成，并于2025-01-02向国家知识产权局提交的专利申请。

本基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法在说明书摘要公布了：本发明公开了基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法，通过结合注意力引导的特征蒸馏和原型对比对齐机制实现了在保护客户端隐私的同时提升联邦学习模型的个性化和泛化性能的功能。注意力引导的特征蒸馏技术用于解决历史信息遗忘问题，通过利用前一轮的本地特征提取器作为教师模型，并结合注意力机制指导新学生模型的学习，有效保留和传承客户端的个性化历史知识。原型对比对齐技术解决个性化与泛化之间的冲突问题，通过调整全局原型和本地原型之间的关系，并采用原型对比学习损失和原型对齐损失，增强模型在不同客户端数据上的区分能力，从而在保持个性化准确度的同时提高模型的泛化性能。

本发明授权基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法在权利要求书中公布了：1.基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法，其特征在于：其包括步骤：S1、初始化全局特征提取器：服务器首先初始化一个全局特征提取器，全局特征提取器用来接收来自各个客户端的本地模型更新，进行模型聚合；S2、客户端本地训练：在每个通信轮次中服务器将全局特征提取器发送给选定的客户端，每个客户端使用服务器发送的全局特征提取器初始化本地特征提取器，并使用本地私有数据进行训练；S3、在本地模型训练的过程中，每个客户端采用注意力引导的特征蒸馏方法来保留和利用历史本地知识；步骤S3具体包括以下步骤：S3-1、使用前一轮的局部模型作为教师模型，当前轮次的全局模型作为学生模型；S3-2、利用卷积块注意力模块生成通道和空间注意力图；通道和空间注意力图表示为： 其中，表示在块中提取的特征图，表示层，是经过通道注意力调制后的特征图，和分别表示全局平均池化和全局最大池化，和分别表示沿通道方向的全局平均池化和最大池化，表示多层感知器，表示激活函数，表示卷积层，表示通道拼接，和分别代表通道注意力图和空间注意力图；S3-3、将通道和空间注意力应用于原始输入特征图F得到最终的注意力图，最终的注意力图表示为： 其中，其中表示逐元素乘法，A是结合了通道和空间注意力的最终注意力图；S3-4、在学生网络之间建立跨层连接路径，为每个输入特征层创建了三种类型的卷积层、、，通过采用跨层特征融合策略得到最终的融合结果，以在不同层的学生特征之间实现了有效的集成；特征融合步骤表示为： 其中，表示使用双线性插值进行上采样，表示第层的最终注意力图，表示最终的融合结果；是横向卷积，统一了不同尺度输入特征图的通道数到一个固定的输出通道数；用于平滑特征融合后的结果，用于增强低层特征；S3-5、使用最低层的特征图为第一横向卷积从下至上进行特征融合；结合上采样的高层特征、横向卷积特征和增强的低层特征，然后应用进行平滑得到最终的特征对齐，具体表达式为： 其中，表示学生，表示教师，使用均方误差MSE损失进行特征对齐；表示特征对齐损失，用于量化学生模型和教师模型在特征层上的差异，表示学生模型在第层最终的融合结果，表示教师模型在第层的注意力图，表示学生模型在第层的特征图，表示教师模型在第层的特征图；S4、在特征蒸馏之后，客户端进行原型对比和对齐操作得到更新后的本地模型参数；即根据从服务器接收的全局原型来调整本地原型，并通过原型对比学习损失和原型对齐损失来优化模型的泛化能力；S5、客户端将更新后的本地模型参数和计算得到的本地原型上传到服务器；服务器聚合所有客户端上传的模型参数和原型，以更新全局模型参数和全局原型，为下一轮联邦学习过程做准备；S6、服务器将更新后的全局模型参数和全局原型发送回客户端，客户端使用更新后的全局参数来初始化新一轮的本地模型训练；迭代进行，直到模型性能达到满意的水平或达到预定的通信轮次。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人福建师范大学;中国热带农业科学院热带生物技术研究所，其通讯地址为：350000 福建省福州市大学城科技路1号福建师范大学旗山校区；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。