申请/专利权人:北京百度网讯科技有限公司
申请日:2023-08-14
公开(公告)日:2024-04-12
公开(公告)号:CN116991587B
主分类号:G06F9/50
分类号:G06F9/50;G06F18/22;G06F18/232;G06N20/00
优先权:
专利状态码:有效-授权
法律状态:2024.04.12#授权;2023.11.21#实质审查的生效;2023.11.03#公开
摘要:本公开提供了一种联邦学习中的设备调度方法及装置,涉及人工智能技术领域,尤其涉及机器学习、深度学习技术领域。实现方案为:获取用于联合训练模型的多个计算设备和所述多个计算设备中的任意两个计算设备各自的第一参数之间的参数距离信息;基于所述参数距离信息,对所述多个计算设备进行聚类,以得到多个设备簇;对于所述多个设备簇中的任一设备簇:对所述设备簇内的每个计算设备的第一参数进行聚合,以获得所述设备簇经过所述当前轮训练所得到的所述模型的第二参数;以及将所述第二参数发送至所述设备簇中的通信设备,以便所述通信设备将所述第二参数转发至所述设备簇中的其他计算设备进行下一轮训练。
主权项:1.一种联邦学习中的设备调度方法,包括:获取用于联合训练模型的多个计算设备和所述多个计算设备中的任意两个计算设备各自的第一参数之间的参数距离信息,其中,所述第一参数为相应计算设备利用本地训练样本对所述模型进行当前轮训练所得到的所述模型的参数,所述第一参数与得到该第一参数的相应计算设备的软硬件配置和样本数据分布相关,所述参数距离信息指示所述两个计算设备的相似度并且与所述相似度负相关;基于所述参数距离信息,利用重叠聚类算法对所述多个计算设备进行聚类,以得到多个设备簇,所述多个计算设备中的任一计算设备属于至少一个设备簇;以及对于所述多个设备簇中的任一设备簇:对所述设备簇内的每个计算设备的第一参数进行聚合,以获得所述设备簇经过所述当前轮训练所得到的所述模型的第二参数;以及将所述第二参数发送至所述设备簇中的通信设备,以便所述通信设备将所述第二参数转发至所述设备簇中的其他计算设备进行下一轮训练。
全文数据:
权利要求:
百度查询: 北京百度网讯科技有限公司 联邦学习中的设备调度方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。