买专利,只认龙图腾
首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

【发明授权】数据处理方法、逻辑模型系统以及数据处理系统_联想(北京)有限公司_201811018904.1 

申请/专利权人:联想(北京)有限公司

申请日:2018-08-31

公开(公告)日:2023-05-26

公开(公告)号:CN109241139B

主分类号:G06F16/2458

分类号:G06F16/2458;H04L67/10

优先权:

专利状态码:有效-授权

法律状态:2023.05.26#授权;2019.02.19#实质审查的生效;2019.01.18#公开

摘要:本公开提供了一种数据处理方法,包括:接收用户输入的训练逻辑数据,其中,所述训练逻辑数据能够用于构建初始逻辑模型;基于所述训练逻辑数据构建多个初始逻辑模型;控制所述多个初始逻辑模型基于样本数据进行训练,得到多个训练后的初始逻辑模型;以及根据所述多个训练后的初始逻辑模型确定目标逻辑模型。

主权项:1.一种数据处理方法,该方法用于电子设备,所述电子设备包括参数服务器和多个计算节点,所述计算节点包括多个计算单元,所述每个计算单元包括初始逻辑模型,所述方法包括:接收用户输入的训练逻辑数据,其中,所述训练逻辑数据能够用于构建初始逻辑模型;基于所述训练逻辑数据构建多个初始逻辑模型;控制每个计算单元从多个样本数据中获取子样本数据,并基于子样本数据训练对应的初始逻辑模型,得到对应的初始逻辑模型的模型梯度;将每个计算单元训练得到的模型梯度上传到所述计算单元对应的计算节点;控制所述计算节点处理接收到的模型梯度,并将处理后的模型梯度上传至所述参数服务器;控制所述参数服务器基于接收到的处理后的模型梯度更新所述初始逻辑模型的模型参数;将更新后的模型参数发送至所述每个计算单元;控制每个计算单元基于接收到的更新后的模型参数更新对应的初始逻辑模型;以及根据多个训练后的初始逻辑模型确定目标逻辑模型。

全文数据:数据处理方法、逻辑模型系统以及数据处理系统技术领域本公开涉及一种数据处理方法、逻辑模型系统以及数据处理系统。背景技术随着电子技术的快速发展,通常需要处理大量的数据。例如在模型训练过程中,数据量非常大,因此,为了加速模型训练的速度,通常通过并行计算来加速模型训练的速度,例如通过分布式并行计算的方式加速训练速度。但是,现有技术在并行训练模型时,用户不仅需要构建训练模型,还需要了解较多的分布式并行计算的逻辑,使得用户的开发成本较高,使用过程繁琐。因此,如何优化并行计算的操作过程,降低用户的开发成本,提升使用并行方式进行计算的效率和灵活性成为亟需解决的问题。发明内容本公开的一个方面提供了一种数据处理方法,包括:接收用户输入的训练逻辑数据,其中,所述训练逻辑数据能够用于构建初始逻辑模型,基于所述训练逻辑数据构建多个初始逻辑模型,控制所述多个初始逻辑模型基于样本数据进行训练,得到多个训练后的初始逻辑模型,根据所述多个训练后的初始逻辑模型确定目标逻辑模型。可选地,上述根据所述多个训练后的初始逻辑模型确定目标逻辑模型,包括:获取所述多个训练后的初始逻辑模型的模型梯度,基于所述模型梯度更新所述初始逻辑模型的模型参数,得到目标逻辑模型。可选地,上述控制所述多个初始逻辑模型基于样本数据进行训练,包括:控制所述多个初始逻辑模型中的每个初始逻辑模型从所述样本数据中获取子样本数据,控制所述每个初始逻辑模型基于对应的子样本数据进行训练。可选地,上述训练逻辑数据包括:损失函数信息以及梯度信息,所述基于所述训练逻辑数据构建多个初始逻辑模型,包括:基于所述损失函数信息配置所述初始逻辑模型的模型参数,基于所述模型参数以及所述梯度信息构建逻辑模型计算图以及梯度计算图。可选地,上述方法还包括:接收用户输入的控制信息,所述控制信息能够用于生成控制指令,所述控制指令用于控制所述初始逻辑模型的训练。可选地,上述控制所述多个初始逻辑模型基于样本数据进行训练,包括根据预设循环次数循环执行:控制所述多个初始逻辑模型中的每个初始逻辑模型从所述样本数据中获取子样本数据,控制所述多个初始逻辑模型基于相应的子样本数据分别进行训练,得到与所述多个初始逻辑模型的对应的多组模型梯度,基于所述多组模型梯度更新所述初始逻辑模型的模型参数。可选地,上述方法用于电子设备,所述电子设备包括参数服务器和多个计算节点,所述计算节点包括多个计算单元,所述每个计算单元包括所述初始逻辑模型,所述方法包括:控制每个计算单元从所述样本数据中获取子样本数据,并基于子样本数据训练对应的初始逻辑模型,得到所述对应的初始逻辑模型的模型梯度,将每个计算单元训练得到的模型梯度上传到所述计算单元对应的计算节点,控制所述计算节点处理接收到的模型梯度,并将处理后的模型梯度上传至所述参数服务器,控制所述参数服务器基于接收到的处理后的模型梯度更新所述初始逻辑模型的模型参数,将所述更新后的模型参数发送至所述每个计算单元,控制每个计算单元基于接收到的更新后的模型参数更新对应的初始逻辑模型。可选地,上述方法,其中,属于一个计算节点的多个计算单元包括一个主计算单元和至少一个副计算单元,所述基于所述损失函数信息配置所述初始逻辑模型的模型参数,包括:控制所述主计算单元从所述训练逻辑数据中提取所述损失函数信息,控制所述主计算单元根据所述损失函数信息配置所述模型参数,控制所述副计算单元通过访问所述主计算单元复制配置的模型参数。可选地,上述基于所述模型参数以及所述梯度信息构建模型计算图以及梯度计算图,包括:控制所述主计算单元和所述副计算单元从所述训练逻辑数据中提取所述梯度信息,控制所述主计算单元和所述副计算单元基于所述配置的模型参数以及所述梯度信息构建模型计算图以及梯度计算图。本公开的另一个方面提供了一种逻辑模型系统,包括:多个初始逻辑模型,所述多个初始逻辑模型为基于用户输入的训练逻辑数据构建而成的逻辑模型,其中,所述多个初始逻辑模型能够用于执行:基于样本数据进行训练,得到多个训练后的初始逻辑模型,其中,所述多个训练后的初始逻辑模型能够用于确定目标逻辑模型。可选地,上述逻辑模型系统能够执行:获取所述多个训练后的初始逻辑模型的模型梯度,基于所述模型梯度更新所述初始逻辑模型的模型参数,得到目标逻辑模型。可选地,上述逻辑模型系统能够执行:控制所述多个初始逻辑模型中的每个初始逻辑模型从所述样本数据中获取子样本数据,控制所述每个初始逻辑模型基于对应的子样本数据进行训练。可选地,上述训练逻辑数据包括:损失函数信息以及梯度信息,所述逻辑模型系统能够执行,包括:基于所述损失函数信息配置所述初始逻辑模型的模型参数,基于所述模型参数以及所述梯度信息构建逻辑模型计算图以及梯度计算图。可选地,上述逻辑模型系统能够执行:接收用户输入的控制信息,所述控制信息能够用于生成控制指令,所述控制指令用于控制所述初始逻辑模型的训练。可选地,上述逻辑模型系统能够根据预设循环次数循环执行:控制所述多个初始逻辑模型中的每个初始逻辑模型从所述样本数据中获取子样本数据,控制所述多个初始逻辑模型基于相应的子样本数据分别进行训练,得到与所述多个初始逻辑模型的对应的多组模型梯度,基于所述多组模型梯度更新所述初始逻辑模型的模型参数。可选地,上述逻辑模型系统能够用于电子设备,所述电子设备包括参数服务器和多个计算节点,所述计算节点包括多个计算单元,所述每个计算单元包括所述初始逻辑模型,所述逻辑模型系统能够执行:控制每个计算单元从所述样本数据中获取子样本数据,并基于子样本数据训练对应的初始逻辑模型,得到所述对应的初始逻辑模型的模型梯度,将每个计算单元训练得到的模型梯度上传到所述计算单元对应的计算节点,控制所述计算节点处理接收到的模型梯度,并将处理后的模型梯度上传至所述参数服务器,控制所述参数服务器基于接收到的处理后的模型梯度更新所述初始逻辑模型的模型参数,将所述更新后的模型参数发送至所述每个计算单元,控制每个计算单元基于接收到的更新后的模型参数更新对应的初始逻辑模型。可选地,其中,属于一个计算节点的多个计算单元包括一个主计算单元和至少一个副计算单元,上述逻辑模型系统能够执行:控制所述主计算单元从所述训练逻辑数据中提取所述损失函数信息,控制所述主计算单元根据所述损失函数信息配置所述模型参数,控制所述副计算单元通过访问所述主计算单元复制配置的模型参数。可选地,上述逻辑模型系统能够执行:控制所述主计算单元和所述副计算单元从所述训练逻辑数据中提取所述梯度信息,控制所述主计算单元和所述副计算单元基于所述配置的模型参数以及所述梯度信息构建模型计算图以及梯度计算图。本公开的另一个方面提供了一种数据处理系统,包括:第一接收模块、构建模块、训练模块以及确定模块。其中,第一接收模块接收用户输入的训练逻辑数据,其中,所述训练逻辑数据能够用于构建初始逻辑模型,构建模块基于所述训练逻辑数据构建多个初始逻辑模型,训练模块控制所述多个初始逻辑模型基于样本数据进行训练,得到多个训练后的初始逻辑模型,确定模块根据所述多个训练后的初始逻辑模型确定目标逻辑模型。可选地,上述根据所述多个训练后的初始逻辑模型确定目标逻辑模型,包括:获取所述多个训练后的初始逻辑模型的模型梯度,基于所述模型梯度更新所述初始逻辑模型的模型参数,得到目标逻辑模型。可选地,上述控制所述多个初始逻辑模型基于样本数据进行训练,包括:控制所述多个初始逻辑模型中的每个初始逻辑模型从所述样本数据中获取子样本数据,控制所述每个初始逻辑模型基于对应的子样本数据进行训练。可选地,上述训练逻辑数据包括:损失函数信息以及梯度信息,所述基于所述训练逻辑数据构建多个初始逻辑模型,包括:基于所述损失函数信息配置所述初始逻辑模型的模型参数,基于所述模型参数以及所述梯度信息构建逻辑模型计算图以及梯度计算图。可选地,上述系统还包括:第二接收模块,接收用户输入的控制信息,所述控制信息能够用于生成控制指令,所述控制指令用于控制所述初始逻辑模型的训练。可选地,上述控制所述多个初始逻辑模型基于样本数据进行训练,包括根据预设循环次数循环执行:控制所述多个初始逻辑模型中的每个初始逻辑模型从所述样本数据中获取子样本数据,控制所述多个初始逻辑模型基于相应的子样本数据分别进行训练,得到与所述多个初始逻辑模型的对应的多组模型梯度,基于所述多组模型梯度更新所述初始逻辑模型的模型参数。可选地,上述系统用于电子设备,所述电子设备包括参数服务器和多个计算节点,所述计算节点包括多个计算单元,所述每个计算单元包括所述初始逻辑模型,所述系统能够执行:控制每个计算单元从所述样本数据中获取子样本数据,并基于子样本数据训练对应的初始逻辑模型,得到所述对应的初始逻辑模型的模型梯度,将每个计算单元训练得到的模型梯度上传到所述计算单元对应的计算节点,控制所述计算节点处理接收到的模型梯度,并将处理后的模型梯度上传至所述参数服务器,控制所述参数服务器基于接收到的处理后的模型梯度更新所述初始逻辑模型的模型参数,将所述更新后的模型参数发送至所述每个计算单元,控制每个计算单元基于接收到的更新后的模型参数更新对应的初始逻辑模型。可选地,属于一个计算节点的多个计算单元包括一个主计算单元和至少一个副计算单元,所述基于所述损失函数信息配置所述初始逻辑模型的模型参数,包括:控制所述主计算单元从所述训练逻辑数据中提取所述损失函数信息,控制所述主计算单元根据所述损失函数信息配置所述模型参数,控制所述副计算单元通过访问所述主计算单元复制配置的模型参数。可选地,上述基于所述模型参数以及所述梯度信息构建模型计算图以及梯度计算图,包括:控制所述主计算单元和所述副计算单元从所述训练逻辑数据中提取所述梯度信息,控制所述主计算单元和所述副计算单元基于所述配置的模型参数以及所述梯度信息构建模型计算图以及梯度计算图。本公开的另一方面提供了一种非易失性存储介质,存储有计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。本公开的另一方面提供了一种计算机程序,所述计算机程序包括计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。附图说明为了更完整地理解本公开及其优势,现在将参考结合附图的以下描述,其中:图1示意性示出了根据本公开实施例的数据处理方法和数据处理系统的应用场景;图2示意性示出了根据本公开实施例的数据处理方法的流程图;图3示意性示出了根据本公开实施例的构建初始逻辑模型的流程图;图4示意性示出了根据本公开实施例的训练初始逻辑模型的流程图;图5示意性示出了根据本公开实施例的确定目标逻辑模型的流程图;图6示意性示出了根据本公开实施例的根据预设循环次数训练初始逻辑模型的流程图;图7示意性示出了根据本公开实施例的用于电子设备的数据处理方法的流程图;图8示意性示出了根据本公开实施例的用于电子设备的配置初始逻辑模型的模型参数的流程图;图9示意性示出了根据本公开实施例的用于电子设备的构建模型计算图和梯度计算图的流程图;图10示意性示出了根据本公开另一实施例的数据处理方法的流程图;图11示意性示出了根据本公开实施例的用于电子设备的数据处理方法的示意图;图12示意性示出了根据本公开实施例的逻辑模型系统的示意图;图13示意性示出了根据本公开实施例的数据处理系统的框图;图14示意性示出了根据本公开另一实施例的数据处理系统的框图;以及图15示意性示出了根据本公开实施例的用于数据处理的计算机系统的方框图。具体实施方式以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了特征、步骤、操作和或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。在此使用的所有术语包括技术和科学术语具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和或具有A、B、C的系统等。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和或具有A、B、C的系统等。本领域技术人员还应理解,实质上任意表示两个或更多可选项目的转折连词和或短语,无论是在说明书、权利要求书还是附图中,都应被理解为给出了包括这些项目之一、这些项目任一方、或两个项目的可能性。例如,短语“A或B”应当被理解为包括“A”或“B”、或“A和B”的可能性。附图中示出了一些方框图和或流程图。应理解,方框图和或流程图中的一些方框或其组合可以由计算机程序指令来实现。这些计算机程序指令可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,从而这些指令在由该处理器执行时可以创建用于实现这些方框图和或流程图中所说明的功能操作的装置。因此,本公开的技术可以硬件和或软件包括固件、微代码等的形式来实现。另外,本公开的技术可以采取存储有指令的计算机可读介质上的计算机程序产品的形式,该计算机程序产品可供指令执行系统使用或者结合指令执行系统使用。在本公开的上下文中,计算机可读介质可以是能够包含、存储、传送、传播或传输指令的任意介质。例如,计算机可读介质可以包括但不限于电、磁、光、电磁、红外或半导体系统、装置、器件或传播介质。计算机可读介质的具体示例包括:磁存储装置,如磁带或硬盘HDD;光存储装置,如光盘CD-ROM;存储器,如随机存取存储器RAM或闪存;和或有线无线通信链路。本公开的实施例提供了一种数据处理方法,该方法包括接收用户输入的训练逻辑数据,其中,训练逻辑数据能够用于构建初始逻辑模型,基于训练逻辑数据构建多个初始逻辑模型,控制多个初始逻辑模型基于样本数据进行训练,得到多个训练后的初始逻辑模型,根据多个训练后的初始逻辑模型确定目标逻辑模型。可见,在本公开实施例的技术方案中,通过接收用户输入的训练逻辑数据构建多个初始逻辑模型,并通过多个初始逻辑模型的并行训练,得到目标逻辑模型,实现优化并行计算的操作过程,降低用户的开发成本,提升使用并行方式进行计算的效率和灵活性。图1示意性示出了根据本公开实施例的数据处理方法和数据处理系统的应用场景。需要注意的是,图1所示仅为可以应用本公开实施例的场景的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。如图1所示,该应用场景100例如可以包括用户输入的训练逻辑数据110、多个初始逻辑模型120以及目标逻辑模型130。根据本公开实施例,用户输入的训练逻辑数据110例如可以包括用于构建逻辑模型的数据信息,例如可以包括所要构建的逻辑模型的参数信息、损失函数信息、梯度信息等等。在本公开实施例中,多个初始逻辑模型120例如可以包括初始逻辑模型121、初始逻辑模型122、初始逻辑模型123等等。该多个初始逻辑模型例如可以是基于用户输入的训练逻辑数据110构建而成。根据本公开实施例,多个初始逻辑模型120例如可以是多项式模型、分类决策树模型、神经网络模型等等包含待求参数的模型。该多个初始逻辑模型120例如可以相同,其中,该多个初始逻辑模型120可以基于样本数据进行训练得到多个训练后的初始逻辑模型,该多个初始逻辑模型120中的每个初始逻辑模型可以基于不同的样本数据进行训练,得到的多个训练后的初始逻辑模型不同例如多个训练后的初始逻辑模型的模型参数不同。在本公开实施例中,目标逻辑模型130例如可以是基于多个训练后的初始逻辑模型确定得出。例如目标逻辑模型130可以是多个训练后的初始逻辑模型中的一个,或者还可以是对多个训练后的初始逻辑模型进行相应的处理得到目标逻辑模型,该相应的处理例如可以是进行平均处理等等。根据本公开实施例,例如可以通过分布式训练引擎基于用户输入的训练逻辑数据自动构建多个初始逻辑模型,通过多个初始逻辑模型基于样本数据进行训练,可以实现分布式并行计算,通过分布式集群能够加速模型的训练。其中,用户输入的训练逻辑数据例如可以是用户构建的单机业务训练逻辑,分布式训练引擎能够通过自动萃取技术抽取用户所构建的单机业务训练逻辑中的逻辑模型构建信息以及逻辑模型训练阶段的执行信息,以此构建包括多个初始逻辑模型120的分布式训练逻辑,通过该分布式训练逻辑并行训练多个初始逻辑模型120,以此加速模型的训练。在本公开实施例中,通过分布式训练引擎自动萃取用户输入的单机业务训练逻辑构建包含多个初始逻辑模型120的分布式训练逻辑,该过程无需用户了解和制定分布式训练逻辑,仅需用户提供单机业务训练逻辑例如仅需用户提供单机代码即可。该分布式训练引擎内包含多种分布式训练技术,通过该分布式训练引擎自动萃取用户输入的机业务训练逻辑的方式能够适用于多种用户场景,降低用户的开发成本。图2示意性示出了根据本公开实施例的数据处理方法的流程图。如图2所示,该方法包括操作S210~S240。在操作S210,接收用户输入的训练逻辑数据,其中,训练逻辑数据能够用于构建初始逻辑模型。在本公开实施例中,例如通过分布式训练引擎接收用户输入的训练逻辑数据,该训练逻辑数据例如可以是用户构建的单机业务训练逻辑,该单机业务训练逻辑能够用于构建逻辑模型。其中,该单机业务训练逻辑可以包括的逻辑模型的构建信息以及逻辑模型训练阶段的执行信息等,分布式训练引擎能够萃取单机业务训练逻辑中的逻辑模型的构建信息来构建初始逻辑模型,以及萃取单机业务训练逻辑中的模型训练阶段的执行信息来控制初始逻辑模型的训练。在操作S220,基于训练逻辑数据构建多个初始逻辑模型。根据本公开实施例,分布式训练引擎能够接收用户的训练逻辑数据并构建多个初始逻辑模型,该多个初始逻辑模型例如可以是相同的逻辑模型。例如,该初始逻辑模型可以是多项式模型、分类决策树模型、神经网络模型等等包含待求参数的模型。在操作S230,控制多个初始逻辑模型基于样本数据进行训练,得到多个训练后的初始逻辑模型。在本公开实施例中,样本数据例如可以是用于训练初始逻辑模型的数据。其中,多个初始逻辑模型中的每个初始逻辑模型例如可以基于不同的样本数据进行训练得到多个不同的训练后的初始逻辑模型。例如,每个初始逻辑模型例如可以基于样本数据的不同部分进行训练,例如样本数据包括多个数据,每个初始逻辑模型可以从该多个数据中随机选择至少一个数据进行训练,每个初始逻辑模型的训练数据不同,得到的多个训练后的初始逻辑模型不同。在操作S240,根据多个训练后的初始逻辑模型确定目标逻辑模型。根据本公开实施例,确定目标逻辑模型例如包括多种方式。其中,一种方式例如可以是从多个训练后的初始逻辑模型中选择至少一个作为目标逻辑模型,另一种方式可以是对多个训练后的初始逻辑模型进行处理得到目标逻辑模型。例如,从多个训练后的初始逻辑模型中选择至少一个作为目标逻辑模型,可以是从多个训练后的初始逻辑模型中选择满足收敛性较好、模型误差小等条件的逻辑模型作为目标逻辑模型。例如,对多个训练后的初始逻辑模型进行处理得到目标逻辑模型,可以是对多个训练后的初始逻辑模型的模型参数或者模型梯度等进行处理,例如进行平均处理得到目标模型参数或者目标模型梯度,将处理后的目标模型参数或者目标模型梯度作为更新初始逻辑模型的模型参数或者模型梯度,得到目标逻辑模型。例如,以初始逻辑模型为神经网络模型为例,例如多个初始神经网络模型A1、A2、……、An该多个初始神经网络模型例如相同,该多个初始神经网络模型基于样本数据进行训练得到多个训练后的神经网络模型,该多个训练后的神经网络模型的模型梯度例如分别为B1、B2、……、Bn,对该模型梯度B1、B2、……、Bn进行平均处理得到平均后的模型梯度,基于该平均后的模型梯度更新初神经网络模型的模型参数,得到更新后的神经网络模型C。例如,将该更新后的神经网络模型C作为目标神经网络模型,或者,将该更新后的神经网络模型C作为初始神经网络模型,并进行多次循环训练后,得到目标神经网络模型。根据本公开实施例的技术方案,通过接收用户输入的训练逻辑数据构建多个初始逻辑模型,并通过多个初始逻辑模型的并行训练,得到目标逻辑模型。即,通过分布式训练引擎自动萃取用户输入的训练逻辑数据构建逻辑模型,该过程无需用户了解和制定分布式训练逻辑,仅需用户提供训练逻辑数据例如仅需用户提供单机代码即可,通过该分布式训练引擎自动萃取用户输入的训练逻辑数据的方式能够适用于多种用户场景,降低用户的开发成本。本公开实施例能够通过多个逻辑模型并行训练,以此实现优化并行计算的操作过程,提升使用并行方式进行计算的效率和灵活性。图3示意性示出了根据本公开实施例的构建初始逻辑模型的流程图。如图3所示,操作S220包括操作S221~S222。在本公开实施例中,例如分布式训练引擎能够接收用户输入的基于计算图的深度学习业务逻辑,该业务逻辑例如由模型前向构建、后向梯度计算以及运行时会话逻辑等多个部分组成。例如,用户输入的训练逻辑数据包括:损失函数信息以及梯度信息。其中,损失函数信息例如可以是用户构建的损失函数计算原语,梯度信息例如可以是用户构建的应用梯度原语,该损失函数计算原语和应用梯度计算原语能够形成单机训练文件,分布式训练引擎能够获取该单机训练文件构建初始逻辑模型。在操作S221,基于损失函数信息配置初始逻辑模型的模型参数。根据本公开实施例,例如通过分布式训练引擎自动萃取用户输入的训练逻辑数据中的损失函数信息,并基于损失函数信息配置初始逻辑模型的模型参数,例如部署前向模型参数。在操作S222,基于模型参数以及梯度信息构建逻辑模型计算图以及梯度计算图。根据本公开实施例,例如通过分布式训练引擎自动萃取用户输入的训练逻辑数据中的梯度信息,并基于配置的模型参数以及梯度信息构建逻辑模型计算图以及梯度计算图,例如部署前向模型计算和后向计算子图。图4示意性示出了根据本公开实施例的训练初始逻辑模型的流程图。如图4所示,操作S230包括操作S231~S232。在操作S231,控制多个初始逻辑模型中的每个初始逻辑模型从样本数据中获取子样本数据。根据本公开实施例,多个初始逻辑模型能够基于样本数据进行训练。其中,每个初始逻辑模型的样本数据可以不同,例如用于训练每个初始逻辑模型的子样本数据可以不同,每个子样本数据为从样本数据中获取部分数据。在操作S232,控制每个初始逻辑模型基于对应的子样本数据进行训练。在本公开实施例中,每个初始逻辑模型能够基于对应的子样本数据进行训练,得到多个训练后的初始逻辑模型,其中,由于每个初始逻辑模型对应的子样本数据不同,因此,每个训练后的初始逻辑模型的模型参数或者模型梯度不同。图5示意性示出了根据本公开实施例的确定目标逻辑模型的流程图。如图5所示,操作S240包括操作S241~S242。在操作S241,获取多个训练后的初始逻辑模型的模型梯度。根据本公开实施例,例如以初始逻辑模型为初始神经网络模型为例,每个初始神经网络基于对应的子样本数据进行训练得到多个训练后的初始神经网络,该多个训练后的初始神经网络中的每个神经网络都包括对应的模型梯度。在操作S242,基于模型梯度更新初始逻辑模型的模型参数,得到目标逻辑模型。例如,可以对多个训练后的初始逻辑模型的模型梯度进行平均处理,得到平均后的模型梯度,基于平均后的模型梯度更新初始逻辑模型的模型参数,得到更新后的逻辑模型,可以将更新后的逻辑模型作为目标逻辑模型,或者,将更新后的逻辑模型作为初始逻辑模型进行多次循环训练,得到目标逻辑模型。图6示意性示出了根据本公开实施例的根据预设循环次数训练初始逻辑模型的流程图。如图6所示,操作S230包括操作S233~S235。在本公开实施例中,可以根据预设循环次数执行以下操作S233~S235。其中,预设循环次数可以是用户设定的次数,例如可以根据样本数据的数据大小设定循环次数,还可以将参与训练的样本数据占总样本数据的比值满足一定条件作为预设循环次数。例如,样本数据包括10000个数据,多个初始逻辑模型中的每个初始逻辑模型每次都从该10000个数据中随机获取100个数据进行训练,此时,预设循环次数可以由用户定义为120次,或者可以是循环执行以下操作S233~S235直至10000个数据中的80%的数据参与训练。在操作S233,控制多个初始逻辑模型中的每个初始逻辑模型从样本数据中获取子样本数据。在本公开实施例中,多个初始逻辑模型例如包括A1、A2、……、An,每个初始逻辑模型从样本数据中获取子样本数据例如可以是每个初始逻辑模型从10000个数据中随机获取100个数据进行训练,其中,该随机获取的100个数据为每个初始逻辑模型对应的子样本数据。在操作S234,控制多个初始逻辑模型基于相应的子样本数据分别进行训练,得到与多个初始逻辑模型的对应的多组模型梯度。根据本公开实施例,每个初始逻辑模型基于对应的子样本数据进行训练,得到相应的模型梯度,即,每个初始逻辑模型通过训练后,得到对应的模型梯度,例如多个初始逻辑模型A1、A2、……、An对应的模型梯度分别为B1、B2、……、Bn。在操作S235,基于多组模型梯度更新初始逻辑模型的模型参数。例如可以基于多组模型梯度B1、B2、……、Bn,更新初始逻辑模型的模型参数,例如可以对多组模型梯度B1、B2、……、Bn进行平均处理得到一组模型梯度B,以该模型梯度B进行更新初始逻辑模型的模型参数,得到更新后的初始逻辑模型,并返回操作S233继续训练初始逻辑模型直至满足预设循环次数。图7示意性示出了根据本公开实施例的用于电子设备的数据处理方法的流程图。如图7所示,该方法包括操作S701~S706。本公开实施例的数据处理方法能够用于电子设备,该电子设备包括参数服务器和多个计算节点,每个计算节点包括多个计算单元,每个计算单元包括初始逻辑模型。其中,该电子设备能够支持分布式并行计算,例如,该电子设备可以是服务器集群。在本公开实施例中,参数服务器例如可以是一个计算节点,用于收集多个计算节点中的多个初始逻辑模型训练得到的模型梯度,将收集到的模型梯度进行处理,并基于处理后的模型梯度更新初始逻辑模型的模型参数,并将更新后的模型参数发送至多个计算节点中,多个计算节点中的逻辑模型基于更新后的模型参数继续训练。根据本公开实施例,计算节点例如可以是一台计算机,一个计算节点包括多个计算单元,该多个计算单元能够并行计算。例如可以是一台计算机包括多个GPU或线程,该多个GPU或线程可以并行计算。在操作S701,控制每个计算单元从样本数据中获取子样本数据,并基于子样本数据训练对应的初始逻辑模型,得到对应的初始逻辑模型的模型梯度。例如,每个计算单元都包括一个初始逻辑模型,每个计算单元的初始逻辑模型例如可以相同。每个计算单元能够从样本数据中获取子样本数据训练该计算单元中的初始逻辑模型,训练后每个计算单元能够得到相应的模型梯度。在操作S702,将每个计算单元训练得到的模型梯度上传到计算单元对应的计算节点。在本公开实施例,将每个计算单元对应的模型梯度上传至计算单元对应的计算节点中,每个计算节点例如能够接收到对应的多个计算单元相应的模型梯度,即,每个计算节点例如能够接收多组模型梯度。在操作S703,控制计算节点处理接收到的模型梯度,并将处理后的模型梯度上传至参数服务器。根据本公开实施例,由对应的计算节点对接收的多组模型梯度进行处理,例如每个计算节点对接收到的多组模型梯度进行平均处理得到一组模型梯度,由每个计算节点并将处理后的一组模型梯度上传至参数服务器中,由参数服务器对多个计算节点上传的多组模型梯度进行处理。在操作S704,控制参数服务器基于接收到的处理后的模型梯度更新初始逻辑模型的模型参数。在本公开实施例中,参数服务器接收到多个计算节点的多组模型梯度,并基于接收到的多组模型梯度更新初始逻辑模型的模型参数。例如,参数服务器能够根据预设分布式更新策略例如做平均处理等处理接收到的多组模型梯度,得到处理后的一组模型梯度,并基于参数服务器处理后的一组模型梯度更新初始逻辑模型的模型参数。在操作S705,将更新后的模型参数发送至每个计算单元。其中,将参数服务器更新后的模型参数发送至每个计算单元,即,每个计算单元接收到相同的更新后的模型参数,该更新后的模型参数能够作为多个计算单元更新自身的初始逻辑模型所需的模型参数。在操作S706,控制每个计算单元基于接收到的更新后的模型参数更新对应的初始逻辑模型。在本公开实施例中,每个计算单元中的初始逻辑模型基于不同的子样本数据进行训练,得到训练后的初始逻辑模型,由于子样本数据的不同,使得每个计算单元中的训练后的初始逻辑模型不同,因此,每个计算单元接收到的参数服务器的更新后的模型参数能够用于更新每个计算单元对应的训练后的初始逻辑模型。图8示意性示出了根据本公开实施例的用于电子设备的配置初始逻辑模型的模型参数的流程图。如图8所示,操作S221包括操作S2211~S2213。根据本公开实施例,属于一个计算节点的多个计算单元包括一个主计算单元和至少一个副计算单元。例如,当一个计算节点包括两个以上的计算单元时,一个计算单元为主计算单元,其他多个计算单元为副计算单元。在本公开实施例中,每个计算节点能够获取用户输入的训练逻辑数据,每个计算节点能够启动对应的多个计算单元基于训练逻辑数据构建初始逻辑模型,每个计算单元例如具有内建的业务逻辑萃取器,能够用于萃取训练逻辑数据中的相应信息,具体过程如下。在操作S2211,控制主计算单元从训练逻辑数据中提取损失函数信息。在本公开实施例中,通过计算节点中的主计算单元萃取训练逻辑数据中的损失函数信息,例如萃取单机业务训练逻辑中的损失函数计算原语。在操作S2212,控制主计算单元根据损失函数信息配置模型参数。根据本公开实施例,主计算单元例如能够根据损失函数信息在主计算单元中部署该主计算单元对应的计算节点的前向模型参数。在操作S2213,控制副计算单元通过访问主计算单元复制配置的模型参数。根据本公开实施例,副计算单元能够通过访问属于同一个计算节点的主计算单元,并复制主计算单元配置好的模型参数,使得计算节点中的每个计算单元具有配置好的模型参数。图9示意性示出了根据本公开实施例的用于电子设备的构建模型计算图和梯度计算图的流程图。如图9所示,操作S222包括操作S2221~S2222。在操作S2221,控制主计算单元和副计算单元从训练逻辑数据中提取梯度信息。在本公开实施例中,属于一个计算节点的主计算单元和副计算单元能够从用户输入的训练逻辑数据中萃取梯度信息,例如,每个计算单元都能够萃取梯度信息,用于自身计算单元构建初始逻辑模型。在操作S2222,控制主计算单元和副计算单元基于配置的模型参数以及梯度信息构建模型计算图以及梯度计算图。在本公开实施例中,每个计算单元能够基于自身包括的配置的模型参数和梯度信息构建自身的初始逻辑模型,其中,每个计算单元的所构建的初始逻辑模型例如可以相同。根据本公开实施例的技术方案,多个计算节点通过接收用户输入的训练逻辑数据构建多个初始逻辑模型,多个计算单元通过多个初始逻辑模型的并行训练,得到目标逻辑模型。即,通过分布式训练引擎控制计算单元自动萃取用户输入的训练逻辑数据构建逻辑模型,该过程无需用户了解和制定分布式训练逻辑,仅需用户提供训练逻辑数据例如仅需用户提供单机代码即可,通过该分布式训练引擎自动萃取用户输入的训练逻辑数据的方式能够适用于多种用户场景,降低用户的开发成本。本公开实施例能够通过多个逻辑模型并行训练,以此实现优化并行计算的操作过程,提升使用并行方式进行计算的效率和灵活性。图10示意性示出了根据本公开另一实施例的数据处理方法的流程图。如图10所示,该方法包括操作S210~S240以及S1010。其中,操作S210~S240如上参考图2所描述的操作相同或类似,在此不再赘述。在操作S1010,接收用户输入的控制信息,控制信息能够用于生成控制指令,控制指令用于控制初始逻辑模型的训练。在本公开实施例中,每个计算单元能够接收用户输入的控制信息,该控制信息例如可以和训练逻辑数据一起输入至计算节点中,在初始逻辑模型训练过程中,该控制信息能够生成控制指令,用于控制多个初始逻辑模型的训练过程。图11示意性示出了根据本公开实施例的用于电子设备的数据处理方法的示意图。如图11所示,本公开实施例包括多个计算节点图中仅示例性示出一个计算节点,每个计算节点包括多个计算单元或者多个线程,其中,一个为主计算单元,其他为副计算单元图中仅示例性示出一个副计算单元。本公开实施例包括操作S1110~S1180。在操作S1110,由每个计算单元获取用户输入的训练逻辑数据。在操作S1120,构建初始逻辑模型。例如,主计算单元获取用户输入的训练逻辑数据中的损失函数信息,根据损失函数信息在主计算单元中部署前向模型参数,属于同一计算节点中的其他副计算单元通过访问主计算单元获取前向模型参数,主计算单元和副计算单元获取用户输入的训练逻辑数据中的梯度信息,并基于前向模型参数和梯度信息构建初始逻辑模型。在操作S1130,获取用户输入的会话执行操作中的第一接口信息,每个计算单元在执行到第一接口信息时,进行初始逻辑模型的训练,并将训练后得到的模型梯度上传至对应的计算节点中。在操作S1140,如果计算单元为主计算单元,则由主计算单元基于预设条件对计算节点中的训练后的逻辑模型进行验证或者总结等等。例如,在主计算单元执行到会话执行操作中的第二接口信息时,并且满足预设条件时,对训练后的逻辑模型进行验证或者总结。例如验证模型的收敛性或者其他中间变量是否正常等等,以此验证模型是否正常。其中,预设条件例如可以是用户设定的条件,例如该条件为达到预设训练次数,或者该条件还可以为模型训练过程中所使用的样本数据是否覆盖所有的样本数据。在操作S1150,执行用户自定义的操作。例如,每个计算单元能够执行用户自定义的操作,该自定义操作例如可以是训练过程中的统计操作,可视化操作等等,便于用户了解训练过程。其中,返回操作操作S1130,循环执行S1130~S1150直至满足预设循环次数。在操作S1160,每个计算节点将训练后的模型梯度上传至参数服务器中。其中,计算节点例如可以对计算单元发送的模型梯度进行处理例如平均处理,将处理后的模型梯度上传至参数服务器。计算节点还能够向参数服务器发送请求更新后的模型参数的指令。在操作S1170,接收多个计算节点上传的模型梯度。在操作S1180,根据预设的分布式更新策略例如平均处理策略,基于模型梯度更新初始逻辑模型的模型参数,并响应计算节点的对更新后的模型参数的请求。图12示意性示出了根据本公开实施例的逻辑模型系统的示意图。如图12所示,本公开实施例公开的一种逻辑模型系统1200,包括:多个初始逻辑模型,多个初始逻辑模型为基于用户输入的训练逻辑数据构建而成的逻辑模型,其中,多个初始逻辑模型能够用于执行:基于样本数据进行训练,得到多个训练后的初始逻辑模型,其中,多个训练后的初始逻辑模型能够用于确定目标逻辑模型。例如,逻辑模型系统1200包括多个初始逻辑模型1210、1220、1230……,本公开实施例以逻辑模型为神经网络模型为例。该多个初始逻辑模型例如能够基于用户输入的训练逻辑数据1240构建而成,该多个初始逻辑模型能够基于样本数据1250进行并行计算,得到多个训练后的初始逻辑模型1210a、1220a、1230a……,并基于多个训练后的初始逻辑模型1210a、1220a、1230a确定目标逻辑模型1260。图13示意性示出了根据本公开实施例的数据处理系统的框图。如图13所示,数据处理系统1300包括第一接收模块1310、构建模块1320、训练模块1330以及确定模块1340。根据本公开实施例,数据处理系统1300用于电子设备,该电子设备包括参数服务器和多个计算节点,计算节点包括多个计算单元,每个计算单元包括初始逻辑模型,该系统1300能够执行:控制每个计算单元从样本数据中获取子样本数据,并基于子样本数据训练对应的初始逻辑模型,得到对应的初始逻辑模型的模型梯度,将每个计算单元训练得到的模型梯度上传到计算单元对应的计算节点,控制计算节点处理接收到的模型梯度,并将处理后的模型梯度上传至参数服务器,控制参数服务器基于接收到的处理后的模型梯度更新初始逻辑模型的模型参数,将更新后的模型参数发送至每个计算单元,控制每个计算单元基于接收到的更新后的模型参数更新对应的初始逻辑模型。其中,第一接收模块1310可以用于接收用户输入的训练逻辑数据,其中,训练逻辑数据能够用于构建初始逻辑模型。根据本公开实施例,第一接收模块1310例如可以执行上文参考图2描述的操作S210,在此不再赘述。构建模块1320可以用于基于训练逻辑数据构建多个初始逻辑模型。根据本公开实施例,训练逻辑数据包括:损失函数信息以及梯度信息;基于训练逻辑数据构建多个初始逻辑模型,包括:基于损失函数信息配置初始逻辑模型的模型参数,基于模型参数以及梯度信息构建逻辑模型计算图以及梯度计算图。根据本公开实施例,属于一个计算节点的多个计算单元包括一个主计算单元和至少一个副计算单元,基于损失函数信息配置初始逻辑模型的模型参数,包括:控制主计算单元从训练逻辑数据中提取损失函数信息,控制主计算单元根据损失函数信息配置模型参数,控制副计算单元通过访问主计算单元复制配置的模型参数。根据本公开实施例,基于模型参数以及梯度信息构建模型计算图以及梯度计算图,包括:控制主计算单元和副计算单元从训练逻辑数据中提取梯度信息,控制主计算单元和副计算单元基于配置的模型参数以及梯度信息构建模型计算图以及梯度计算图。根据本公开实施例,构建模块1320例如可以执行上文参考图2描述的操作S220,在此不再赘述。训练模块1330可以用于控制多个初始逻辑模型基于样本数据进行训练,得到多个训练后的初始逻辑模型。根据本公开实施例,控制多个初始逻辑模型基于样本数据进行训练,包括:控制多个初始逻辑模型中的每个初始逻辑模型从样本数据中获取子样本数据,控制每个初始逻辑模型基于对应的子样本数据进行训练。根据本公开实施例,控制多个初始逻辑模型基于样本数据进行训练,包括根据预设循环次数循环执行:控制多个初始逻辑模型中的每个初始逻辑模型从样本数据中获取子样本数据,控制多个初始逻辑模型基于相应的子样本数据分别进行训练,得到与多个初始逻辑模型的对应的多组模型梯度,基于多组模型梯度更新初始逻辑模型的模型参数。根据本公开实施例,训练模块1330例如可以执行上文参考图2描述的操作S230,在此不再赘述。确定模块1340可以用于根据多个训练后的初始逻辑模型确定目标逻辑模型。根据本公开实施例,根据多个训练后的初始逻辑模型确定目标逻辑模型,包括:获取多个训练后的初始逻辑模型的模型梯度,基于模型梯度更新初始逻辑模型的模型参数,得到目标逻辑模型。根据本公开实施例,确定模块1340例如可以执行上文参考图2描述的操作S240,在此不再赘述。图14示意性示出了根据本公开另一实施例的数据处理系统的框图;如图14所示,数据处理系统1400包括第一接收模块1310、构建模块1320、训练模块1330、确定模块1340以及第二接收模块1410。其中,第一接收模块1310、构建模块1320、训练模块1330以及确定模块1340如上参考图13描述的模块相同或类似,在此不再赘述。其中,第二接收模块1410可以用于接收用户输入的控制信息,控制信息能够用于生成控制指令,控制指令用于控制初始逻辑模型的训练。根据本公开实施例,第二接收模块1410例如可以执行上文参考图10描述的操作S1010,在此不再赘述。根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列FPGA、可编程逻辑阵列PLA、片上系统、基板上的系统、封装上的系统、专用集成电路ASIC,或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。例如,第一接收模块1310、构建模块1320、训练模块1330、确定模块1340以及第二接收模块1410中的任意多个可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,第一接收模块1310、构建模块1320、训练模块1330、确定模块1340以及第二接收模块1410中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列FPGA、可编程逻辑阵列PLA、片上系统、基板上的系统、封装上的系统、专用集成电路ASIC,或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,第一接收模块1310、构建模块1320、训练模块1330、确定模块1340以及第二接收模块1410中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。图15示意性示出了根据本公开实施例的用于数据处理的计算机系统的方框图。图15示出的计算机系统仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。如图15所示,实现用于数据处理的计算机系统1500包括处理器1501、计算机可读存储介质1502。该系统1500可以执行根据本公开实施例的方法。具体地,处理器1501例如可以包括通用微处理器、指令集处理器和或相关芯片组和或专用微处理器例如,专用集成电路ASIC,等等。处理器1501还可以包括用于缓存用途的板载存储器。处理器1501可以是用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。计算机可读存储介质1502,例如可以是能够包含、存储、传送、传播或传输指令的任意介质。例如,可读存储介质可以包括但不限于电、磁、光、电磁、红外或半导体系统、装置、器件或传播介质。可读存储介质的具体示例包括:磁存储装置,如磁带或硬盘HDD;光存储装置,如光盘CD-ROM;存储器,如随机存取存储器RAM或闪存;和或有线无线通信链路。计算机可读存储介质1502可以包括计算机程序1503,该计算机程序1503可以包括代码计算机可执行指令,其在由处理器1501执行时使得处理器1501执行根据本公开实施例的方法或其任何变形。计算机程序1503可被配置为具有例如包括计算机程序模块的计算机程序代码。例如,在示例实施例中,计算机程序1503中的代码可以包括一个或多个程序模块,例如包括1503A、模块1503B、……。应当注意,模块的划分方式和个数并不是固定的,本领域技术人员可以根据实际情况使用合适的程序模块或程序模块组合,当这些程序模块组合被处理器1501执行时,使得处理器1501可以执行根据本公开实施例的方法或其任何变形。根据本发明的实施例,第一接收模块1310、构建模块1320、训练模块1330、确定模块1340以及第二接收模块1410中的至少一个可以实现为参考图15描述的计算机程序模块,其在被处理器1501执行时,可以实现上面描述的相应操作。本公开还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备装置系统中所包含的;也可以是单独存在,而未装配入该设备装置系统中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现:一种数据处理方法,包括:接收用户输入的训练逻辑数据,其中,训练逻辑数据能够用于构建初始逻辑模型,基于训练逻辑数据构建多个初始逻辑模型,控制多个初始逻辑模型基于样本数据进行训练,得到多个训练后的初始逻辑模型,根据多个训练后的初始逻辑模型确定目标逻辑模型。可选地,上述根据多个训练后的初始逻辑模型确定目标逻辑模型,包括:获取多个训练后的初始逻辑模型的模型梯度,基于模型梯度更新初始逻辑模型的模型参数,得到目标逻辑模型。可选地,上述控制多个初始逻辑模型基于样本数据进行训练,包括:控制多个初始逻辑模型中的每个初始逻辑模型从样本数据中获取子样本数据,控制每个初始逻辑模型基于对应的子样本数据进行训练。可选地,上述训练逻辑数据包括:损失函数信息以及梯度信息,基于训练逻辑数据构建多个初始逻辑模型,包括:基于损失函数信息配置初始逻辑模型的模型参数,基于模型参数以及梯度信息构建逻辑模型计算图以及梯度计算图。可选地,上述方法还包括:接收用户输入的控制信息,控制信息能够用于生成控制指令,控制指令用于控制初始逻辑模型的训练。可选地,上述控制多个初始逻辑模型基于样本数据进行训练,包括根据预设循环次数循环执行:控制多个初始逻辑模型中的每个初始逻辑模型从样本数据中获取子样本数据,控制多个初始逻辑模型基于相应的子样本数据分别进行训练,得到与多个初始逻辑模型的对应的多组模型梯度,基于多组模型梯度更新初始逻辑模型的模型参数。可选地,上述方法用于电子设备,该电子设备包括参数服务器和多个计算节点,计算节点包括多个计算单元,每个计算单元包括初始逻辑模型,该方法包括:控制每个计算单元从样本数据中获取子样本数据,并基于子样本数据训练对应的初始逻辑模型,得到对应的初始逻辑模型的模型梯度,将每个计算单元训练得到的模型梯度上传到计算单元对应的计算节点,控制计算节点处理接收到的模型梯度,并将处理后的模型梯度上传至参数服务器,控制参数服务器基于接收到的处理后的模型梯度更新初始逻辑模型的模型参数,将更新后的模型参数发送至每个计算单元,控制每个计算单元基于接收到的更新后的模型参数更新对应的初始逻辑模型。可选地,上述方法,其中,属于一个计算节点的多个计算单元包括一个主计算单元和至少一个副计算单元,基于损失函数信息配置初始逻辑模型的模型参数,包括:控制主计算单元从训练逻辑数据中提取损失函数信息,控制主计算单元根据损失函数信息配置模型参数,控制副计算单元通过访问主计算单元复制配置的模型参数。可选地,上述基于模型参数以及梯度信息构建模型计算图以及梯度计算图,包括:控制主计算单元和副计算单元从训练逻辑数据中提取梯度信息,控制主计算单元和副计算单元基于配置的模型参数以及梯度信息构建模型计算图以及梯度计算图。根据本公开的实施例,计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器RAM、只读存储器ROM、可擦式可编程只读存储器EPROM或闪存、光纤、便携式紧凑磁盘只读存储器CD-ROM、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、有线、光缆、射频信号等等,或者上述的任意合适的组合。附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解,本公开的各个实施例和或权利要求中记载的特征可以进行多种组合或或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和或权利要求中记载的特征可以进行多种组合和或结合。所有这些组合和或结合均落入本公开的范围。尽管已经参照本公开的特定示例性实施例示出并描述了本公开,但是本领域技术人员应该理解,在不背离所附权利要求及其等同物限定的本公开的精神和范围的情况下,可以对本公开进行形式和细节上的多种改变。因此,本公开的范围不应该限于上述实施例,而是应该不仅由所附权利要求来进行确定,还由所附权利要求的等同物来进行限定。

权利要求:1.一种数据处理方法,包括:接收用户输入的训练逻辑数据,其中,所述训练逻辑数据能够用于构建初始逻辑模型;基于所述训练逻辑数据构建多个初始逻辑模型;控制所述多个初始逻辑模型基于样本数据进行训练,得到多个训练后的初始逻辑模型;以及根据所述多个训练后的初始逻辑模型确定目标逻辑模型。2.根据权利要求1所述的方法,其中,所述根据所述多个训练后的初始逻辑模型确定目标逻辑模型,包括:获取所述多个训练后的初始逻辑模型的模型梯度;基于所述模型梯度更新所述初始逻辑模型的模型参数,得到目标逻辑模型。3.根据权利要求1所述的方法,其中,所述控制所述多个初始逻辑模型基于样本数据进行训练,包括:控制所述多个初始逻辑模型中的每个初始逻辑模型从所述样本数据中获取子样本数据;控制所述每个初始逻辑模型基于对应的子样本数据进行训练。4.根据权利要求1所述的方法,其中:所述训练逻辑数据包括:损失函数信息以及梯度信息;所述基于所述训练逻辑数据构建多个初始逻辑模型,包括:基于所述损失函数信息配置所述初始逻辑模型的模型参数;基于所述模型参数以及所述梯度信息构建逻辑模型计算图以及梯度计算图。5.根据权利要求1所述的方法,还包括:接收用户输入的控制信息,所述控制信息能够用于生成控制指令,所述控制指令用于控制所述初始逻辑模型的训练。6.根据权利要求4所述的方法,其中,所述控制所述多个初始逻辑模型基于样本数据进行训练,包括根据预设循环次数循环执行:控制所述多个初始逻辑模型中的每个初始逻辑模型从所述样本数据中获取子样本数据;控制所述多个初始逻辑模型基于相应的子样本数据分别进行训练,得到与所述多个初始逻辑模型的对应的多组模型梯度;基于所述多组模型梯度更新所述初始逻辑模型的模型参数。7.根据权利要求4所述的方法,用于电子设备,所述电子设备包括参数服务器和多个计算节点,所述计算节点包括多个计算单元,所述每个计算单元包括所述初始逻辑模型,所述方法包括:控制每个计算单元从所述样本数据中获取子样本数据,并基于子样本数据训练对应的初始逻辑模型,得到所述对应的初始逻辑模型的模型梯度;将每个计算单元训练得到的模型梯度上传到所述计算单元对应的计算节点;控制所述计算节点处理接收到的模型梯度,并将处理后的模型梯度上传至所述参数服务器;控制所述参数服务器基于接收到的处理后的模型梯度更新所述初始逻辑模型的模型参数;将所述更新后的模型参数发送至所述每个计算单元;控制每个计算单元基于接收到的更新后的模型参数更新对应的初始逻辑模型。8.根据权利要求7所述的方法,其中:属于一个计算节点的多个计算单元包括一个主计算单元和至少一个副计算单元;所述基于所述损失函数信息配置所述初始逻辑模型的模型参数,包括:控制所述主计算单元从所述训练逻辑数据中提取所述损失函数信息;控制所述主计算单元根据所述损失函数信息配置所述模型参数;控制所述副计算单元通过访问所述主计算单元复制配置的模型参数;所述基于所述模型参数以及所述梯度信息构建模型计算图以及梯度计算图,包括:控制所述主计算单元和所述副计算单元从所述训练逻辑数据中提取所述梯度信息;控制所述主计算单元和所述副计算单元基于所述配置的模型参数以及所述梯度信息构建模型计算图以及梯度计算图。9.一种逻辑模型系统,包括:多个初始逻辑模型,所述多个初始逻辑模型为基于用户输入的训练逻辑数据构建而成的逻辑模型,其中,所述多个初始逻辑模型能够用于执行:基于样本数据进行训练,得到多个训练后的初始逻辑模型,其中,所述多个训练后的初始逻辑模型能够用于确定目标逻辑模型。10.一种数据处理系统,包括:第一接收模块,接收用户输入的训练逻辑数据,其中,所述训练逻辑数据能够用于构建初始逻辑模型;构建模块,基于所述训练逻辑数据构建多个初始逻辑模型;训练模块,控制所述多个初始逻辑模型基于样本数据进行训练,得到多个训练后的初始逻辑模型;以及确定模块,根据所述多个训练后的初始逻辑模型确定目标逻辑模型。

百度查询: 联想(北京)有限公司 数据处理方法、逻辑模型系统以及数据处理系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

相关技术
相关技术
相关技术
相关技术