首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明公布】基于分布式机器学习的分组训练方法、服务器及客户端_重庆大学_202111232230.7 

申请/专利权人:重庆大学

申请日:2021-10-22

公开(公告)日:2022-03-01

公开(公告)号:CN114118210A

主分类号:G06K9/62(20220101)

分类号:G06K9/62(20220101);G06N3/04(20060101);G06N3/08(20060101);G06N20/00(20190101)

优先权:

专利状态码:在审-实质审查的生效

法律状态:2022.03.18#实质审查的生效;2022.03.01#公开

摘要:本发明公开一种基于分布式机器学习的分组训练方法、服务器及客户端,所述分组训练方法基于客户端的本地优化目标梯度,将训练任务按优化目标拆分到对应的组共识模型中进行训练,减轻了由于隐含子优化目标冲突而导致的训练收敛速度下降,模型性能下降,训练抖动增加等问题,同时,本发明在训练的过程中还对客户端的本地训练数据偏移情况进行监测,当客户端的本地训练数据发生偏移时,更新客户端的分组信息,以使得每一客户端能在优化目标最相似的组模型中进行训练,有效减少了由于训练数据分布不平衡而导致机器学习模型的偏差问题。

主权项:1.一种基于分布式机器学习的分组训练方法,其应用于服务器,其特征在于,包括:根据每一客户端的本地优化目标梯度,对客户端进行分组,得到N个客户端组和每一客户端组对应的组优化目标梯度,并基于每一所述客户端组创建对应的组进程和对应的组共识模型,以使得每一所述客户端分配到优化目标梯度最相似的组进程中进行组共识模型的训练;N大于等于1,其中,所述本地优化目标梯度是所述客户端基于本地训练数据和服务器发送的初始模型计算得到的;在上一训练轮训练结束后且当前训练轮训练开始前,接收训练数据分布发生偏移的客户端返回的分组更新信息;其中,所述客户端的分组更新选择信息是所述训练数据分布发生偏移的客户端基于当前本地优化目标梯度和每一所述组优化目标梯度的相似度的比较结果而选择的优化目标梯度相似度最高的组进程;根据所述分组更新信息,更新客户端的分组,以使得每一所述客户端在当前训练轮中分配到对应的组进程中进行组共识模型的训练。

全文数据:

权利要求:

百度查询: 重庆大学 基于分布式机器学习的分组训练方法、服务器及客户端

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。